Pertemuan Wahid Hasyim, Mahfudz Shiddiq dan Abdullah Ubaid, pada awal September 1929 di kantor Hoof Bestur Nahdlatul Oelama (HBNO) Jl. Bubutan Kawatan Surabaya itu, membuahkan hasil perlunya dibentuk lembaga/bagian di HBNO yang khusus mengurusi pendidikan, yang diberi nama Ma‘arif. Usulan pembentukan Ma‘arif itu disahkan pada tanggal 19 September 1929 di Muktamar NU ke-4 yang dilaksanakan 17-20 September 1929 di Semarang. HBNO Hasil Muktamar Semarang menunjuk Abdullah Ubaid sebagai Ketua yang membidangi Ma‘arif (pendidikan).
- Ma‘arif Dalam Pusaran Sejarah
Ma‘arif terus menjalankan tugas yang dibebankan NU untuk mencerdaskan bangsa, sesuai dengan dinamika perkembangan NU dan bangsa. Sejak tahun 1935 NU mulai merintis madrasah di luar pesantren, yang dilaksanakan secara klasikal. Sistem kelas yang disusun meliputi Madrasah Umum dan Madrasah Ikhtishashiyyah (kejuruan). Madrasah Umum dengan 13 jenjang kelas dari tingkat Awwaliyah (2 tahun), Ibtida‘iyah (3 tahun),Tsanawiyah (3 tahun), Mu‘allimin Wustha (2 tahun) dan Mu‘allimin Ulya (3 tahun). Sedangkan bidang kejuruannya meliputi bidang Qudlat (hukum), Tijarah (perdagangan), Nijarah (pertukangan), Zira‘ah (pertanian), Fuqara‘ (sekolah khusus fakir miskin) dan Kejuruan khusus. Pada tahun 1937, NU mempelopori pendirian al Majlis al Islami al A‘la Indonesia (MIAI) dalam rangka mempersatukan langkah organisasi Islam di Indonesia.Tampil sebagai ketua Wahid Hasyim dengan Faqih Usman dari Muhammadiyah sebagai sekretarisnya.