SMP Islam Al Azhar 21 Solo Baru didirikan berangkat dari keinginan menyediakan pendidikan yang berkesinambungan bagi lulusan SD Islam Al Azhar 28 Solo Baru. Hal ini disebabkan adanya kekhawatiran para pengurus Yayayasan Makarima akan pendidikan agama yang kurang memadai di sekolah umum. Untuk itu, Yayasan Makarima pun mengajukan permohonan kepada YPI Al Azhar Jakarta dan Dinas Pendidikan dan Kebudayaan untuk mendirikan SMP sebagai wadah yang berkesinambungan bagi lulusan SD Islam Al Azhar 28 Solo Baru serta lulusan dari SD lain yang berminat.
Setelah diadakan studi kelayakan oleh YPI Al Azhar Jakarta, izin mendirikan SMP pun berhasil dikantongi. SMP Islam Al Azhar 21 Solo Baru pun akhirnya berdiri pada tahun 2008. Sekolah yang berslogan “Terdepan dalam Iman, Ilmu dan Amal” ini memiliki program pengembangan kurikulum dengan konsep Integrated Learning yang dijabarkan dalam beberapa program.
Di antara program tersebut adalah terjabar dalam poin berikut ini:
Selain program pengembangan kurikulum, SMP Islam Al Azhar 21 Solo Baru juga memiliki program unggulan intrakurikuler dan ekstrakurikuler. Program unggulan dalam intrakurikuler berupa English Class dan Tahfizhul Qur’an yang didukung dengan media pembelajaran berbasis IT dengan menggunakan iPad.
Sedangkan program ektrakurikuler meliputi: OSIS, PMR, Bahasa Inggris, Pramuka, Al Azhar Seni Bela Diri (ASBD), Futsal, Renang, KIR, Musik Etnik, dan lain sebagainya. SMP Islam Al Azhar 21 Solo Baru juga menyediakan fasilitas asrama pelajar bagi murid yang membutuhkannya dengan fasilitas terbaik.