Perkembangan Madrasah tak lepas dari peran Departemen Agama sebagai lembaga yang secara politis telah mengangkat posisi Madrasah hingga memperoleh perhatian yang terus menerus. Kurikulum Madrasah terdiri dari sepertiga pelajaran agama dan pelajaran umum.
Kesejajaran Madrasah dan Sekolah Umum tertuang dengan lahirnya Surat Keputusan Bersama (SKB) 3 Menteri No.6 Tahun 1975 dan No. 037/U/1975 antara Menteri Agama, Menteri Pendidikan dan Kebudayaan, Menteri Dalam Negeri, tentang Peningkatan Mutu Pendidikan pada Madrasah.
MAN 3 Jakarta merupakan satu-satunya Madrasah Aliyah Negeri yang terletak diwilayah Jakarta Pusat, bertempat di Jl. Rawasari Selatan Komp. Perkantoran Rawa Kebo No.6 Cempaka Putih Jakarta Pusat.
MAN 3 Jakarta merupakan perubahan status Pendidikan Guru Agama Negeri (PGAN) 6 Pondok Pinang, berdasarkan Keputusan Menteri Agama Nomor 48 tanggal 17 Maret 1978. Madrasah Aliyah Negeri 3 Pondok Pinang kemudian di relokasi ke Srengseng dan ke Rawasari. Madrasah Aliyah Negeri 3 yang berada di Srengseng kemudian menjadi MAN 7 Jakarta, sedangkan MAN 3 yang berada di rawasari kemudian digabungkan dengan Madrasah Aliyah Negeri 1 (kelas Jauh) yang berada di Johar Baru dan menjadi Madrasah Aliyah Negeri 3 Jakarta.
MAN 3 Jakarta berdiri diwilayah Jakarta Pusat sejak tahun 1991, yang kemudian disahkan melalui Keputusan Menteri Agama Nomor 16 tanggal 29 Mei 2000 sebagai relokasi dari Madrasah Aliyah Negeri 3 Jakarta yang berada di Pondok Pinang.
