Madrasah adalah sekolah yang berciri khas keislaman yang menjadi kebanggaan bangsa Indonesia, madrasah lahir karena inisiatif masyarakat, bukan dari pemerintah, sehingga masyarakat sendiri yang berkorban baik secara material maupun finansial untuk menghidupi dan mengembangkannya. Rasa kepemilikan yang begitu kuat ini membuat masyarakat berharap penuh agar madrasah yang dikaguminya tetap dapat bertahan dan terus berkembang mengikuti zaman.

Sejarah lahirnya madrasah di Indonesia tidak dapat dipisahkan dengan munculnya ide-ide pembaharuan di kalangan umat Islam. Pada permulaan abad ke-20 banyak para pelajar Indonesia yang dulunya bermukim bertahun-tahun di Timur Tengah pulang ke Indonesia. Mereka mengembangkan ide-ide baru dalam bidang pendidikan termasuk salah satunya melahirkan madrasah-madrasah di Indonesia.   Kemudian proses tersebut dikembangkan dan dilanjutkan oleh organisasi-organisasi Islam baik yang berada di Jawa, Sumatra maupun di Kalimantan. Bagi kalangan pembaharuan, pendidikan dipandang sangat strategis dalam membentuk pandangan keislaman masyarakat.
Adapun yang melatarbelakangi kelahiran madrasah sebagai lembaga pendidikan Islam di Indonesia diantaranya: 1) Sebagai manifestasi dan realisasi pembaharuan sistem pendidikan Islam 2) Usaha penyempurnaan terhadap sistem pesantren ke arah suatu sistem pendidikan yang lebih memungkinkan lulusannya memperoleh kesempatan yang sama dengan sekolah umum, misalnya masalah kesamaan kesempatan kerja dan perolehan ijazah 3) Adanya sikap mental pada sementara golongan umat Islam, khususnya santri yang terpukau pada Barat sebagai sistem pendidikan mereka. 4) Sebagai upaya menjembatani antara sistem pendidikan tradisional yang dilakukan oleh pesantren dan sistem pendidikan modern dari hasil akulturasi.  Disamping itu ada dua alasan kuat berdirinya madrasah di Indonesia yaitu adanya respon pendidikan Islam terhadap kebijakan pendidikan pemerintahan Hindia-Belanda dan adanya gerakan pembeharuan Islam di Indonesia.  kemunculan madrasah sebagai lembaga pendidikan Islam dilatarbelakangi oleh keresahan tokoh muslim terhadap pemerintah Hindia Belanda yang mendirikan sekolah-sekolah umum tanpa dimasukkan pelajaran dan pendidikan agama Islam.

Munculnya madrasah pada abad 20 ini ada juga yang memperkirakan berbarengan dengan munculnya Ormas Islam, semisal Muhammadiyah, NU, dan lain-lain. Mengapa madrasah muncul pada masa kolonial Belanda sekitar awal abad ke-20, bukan sebelumnya, Ada dua analisis: pertama, karena beberapa kali usulan Volksraad (Dewan Rakyat) agar pelajaran agama Islam dimasukkan sebagai mata pelajaran di perguruan umum selalu ditolak oleh Belanda. Belanda bahkan memberlakukan ordonansi Indische Staatsregeling pasal 179 ayat 2 yang menyatakan bahwa “pengajaran umum adalah netral”, artinya bahwa pengajaran itu diberikan dengan menghormati keyakinan agama masing-masing. Pengajaran agama hanya boleh berlaku di luar jam sekolah. Sampai dengan akhir pemerintahan Belanda di Indonesia, pengajaran agama di sekolah umum atau open baar orderwijs tidak pernah menjadi kenyataan. Hal ini menumbuhkan inisiatif untuk mendirikan model sekolah di luar kebijakan Belanda yang memberi muatan pelajaran agama Islam lebih, namun berbeda dengan komposisi materi PAI di pesantren dan sejenisnya yang telah ada sebelumnya. Lembaga tersebut adalah madrasah. 
Mulanya lembaga pendidikan Islam hanya ada di pesantren-pesantren yang didirikan oleh ulama dan juga di masjid-masjid atau surau-surau dengan menggunakan sistem pendidikan yang klasik. Setelah kolonial Hindia-Belanda memperkenalkan sistem pendidikan yang baru dengan mengajarkan ilmu-ilmu umum. Kondisi ini direspon positif oleh beberapa pesantren dengan melakukan pembaharuan sistem pendidikan yang diterapkan di pesantren tersebut, seperti Madrasah Salafiyah di Pesantren Tebuireng Jombang, Madrasah di Pesantren Krapyak Yogyakarta, Madrasah Kudsiyah di Kudus, Madrasah Puyuh di Sukabumi.  
Sejarah lahirnya madrasah di Indonesia yang mempunyai catatan panjang dalam perkembangan dan pembaharuan pendidikan Islam di Indonesia. Hal ini merupakan usaha-usaha kreatif dari pada ulama dan tokoh intelektual muslim yang berjuang untuk memajukan pendidikan Islam di Indonesia. Di pulau Sumatra Barat terdapat Madrasah Adabiyah didikan oleh Abdullah Ahmad pada tahun 1908, kemudian berdiri Madrasah School oleh Syaikh M. Taib Umar pada tahun 1910, kemudian 1915 didikan oleh M. Mahmud Yunus yaitu Madrasah Diniyah sebagai sekolah lanjutan dari Madrasah School. Di Aceh terdapar Madrasah Sa’adah Abadiyah (1930), Madrasah al-Muslim (1930), Madrasah Darul Huda (1934), Normal Islam (1939), Madrasah Jadam dan Ma’had Iskandar Muda (1940. Di daerah lain di Sumatra seperti di Sumatra Timur terdapat Madrasah Masrurah (1912) dan Madrasah Azizah (1918), di Palembang terdapat Madrasah Darul Funun (1938), di Tapanuli terdapat Madrasah Mustafafiyah (1934), di Jambi terdapat Madrasah Nurul Iman (1941).   
Sedangkan di Pulau Jawa terdapat Madrasah Mubdil-Fan Tambakberas Jombang (1912/1915) didirikan Oleh KH. Wahab Chasbullah, Madrasah Salafiyah Tebuireng Jombang (1919) didirikan oleh Hadratussyeikh KH. Hasyim Asy’ari, Madrasah Mathla’ul Anwar di Pesantren Manes, Madrasah Krapyak di Yogyakarta (1911), Madrasah Pesantren Rejoso Peterongan (1927), Madrasah Assa’adah di Pondok Pesantrean Qomaruddin Gresik (1932).  Madrasah terdapat juga di pulau lain seperti di Sulawesi, Abudin Nata menjelaskan bahwa madrasah yang pertama berdiri di pulau Sulawesi adalah Muhammadiyah (1926) yang terdiri dari Madrasah Ibtidaiyah, Madrasah Tsanawiyah dan Madrasah Muallimin,  selain itu didirikan juga Madrasah Wajo Arbiyah Islamiyah (1931), Madrasah Amiriyah Islamiyah (1933). 
Di Pulau Kalimantan juga terdapat Madrasah al-Najah wa al-Falah (1918) merupakan madrasah yang paling tertua di Kalimantan tepatnya di Kalimantan Barat.  Ada juga Madrasah al-Sulthaniyah (1922), Normal Islam (1928), dan Madrasah al-Raudhah (1936) yang sangat berperan dalam perkembangan Pendidikan Islam di Kalimantan. Di Pulau Nusa Tenggara Barat berdiri Madrasah Muallimin Nahdlatul Wathan Diniyah Islamiyah (NWDI) didirikan oleh Tuan Guru KH. Zainuddin Abdul Madjid Pancor Lombok Timur.
Madrasah-madrasah yang berdiri tersebut menerapkan sistem pendidikan dan kurikulum masing-masing sesuai dengan keinginan pimpinan atau pengelola madrasah, tetapi mempunyai kesamaan pada satu tujuan yaitu ingin mengajarkan ajaran Islam.  Disamping madrasah yang sudah dijelaskan di atas, masih banyak lagi madrasah yang muncul di daerah wilayah Indonesia lainnya. Dengan demikian dapat dipahami bahwa sebelum Indonesia merdeka, masa pertumbuhan dan perkembangan bagi madrasah hampir di seluruh wilayah Indonesia dengan nama dan tingkatan yang bervariasi.

 Wallahu a’lam bi al shawab.

Penulis : H. Muhyiddin, Lc., MM (Guru Madrasah Mu’allimin Mu’allimat 6 Tahun Tambakberas Jombang)