Sementara itu, keterbelakangan, baik secara mental, maupun ekonomi yang dialami bangsa Indonesia,
akibat penjajahan maupun akibat kungkungan tradisi, menggugah kesadaran
kaum terpelajar untuk memperjuangkan martabat bangsa ini, melalui jalan
pendidikan dan organisasi. Gerakan yang muncul 1908 tersebut dikenal
dengan Kebangkitan Nasional. Semangat kebangkitan memang terus menyebar
ke mana-mana--setelah rakyat pribumi sadar terhadap penderitaan dan
ketertinggalannya dengan bangsa lain, sebagai jawabannya, muncullah
berbagai organisai pendidikan dan pembebasan.
Ketika Raja Ibnu Saud hendak menerapkan asas tunggal yakni mazhab
wahabi di Mekah, serta hendak menghancurkan semua peninggalan sejarah
Islam maupun pra-Islam, yang selama ini banyak diziarahi karena dianggap
bi'dah. Gagasan kaum wahabi tersebut mendapat sambutan hangat dari kaum
modernis di Indonesia, baik kalangan Muhammadiyah di bawah pimpinan
Ahmad Dahlan, maupun PSII di bahwah pimpinan H.O.S. Tjokroaminoto.
Sebaliknya, kalangan pesantren yang selama ini membela keberagaman,
menolak pembatasan bermadzhab dan penghancuran warisan peradaban
tersebut.
Sikapnya yang berbeda, kalangan pesantren dikeluarkan dari anggota Kongres Al Islam di Yogyakarta
1925, akibatnya kalangan pesantren juga tidak dilibatkan sebagai
delegasi dalam Mu'tamar 'Alam Islami (Kongres Islam Internasional) di
Mekah yang akan mengesahkan keputusan tersebut.
Didorong oleh minatnya yang gigih untuk menciptakan kebebsan bermadzhab
serta peduli terhadap pelestarian warisan peradaban, maka kalangan
pesantren terpaksa membuat delegasi sendiri yang dinamai dengan Komite
Hejaz, yang diketuai oleh KH. Wahab Hasbullah.
Atas desakan kalangan pesantren yang terhimpun dalam Komite Hejaz, dan
tantangan dari segala penjuru umat Islam di dunia, Raja Ibnu Saud
mengurungkan niatnya. Hasilnya hingga saat ini di Mekah bebas
dilaksanakan ibadah sesuai dengan madzhab mereka masing-masing. Itulah
peran internasional kalangan pesantren pertama, yang berhasil
memperjuangkan kebebasan bermadzhab dan berhasil menyelamatkan
peninggalan sejarah serta peradaban yang sangat berharga.
Berangkat dari komite dan berbagai organisasi yang bersifat embrional
dan ad hoc, maka setelah itu dirasa perlu untuk membentuk organisasi
yang lebih mencakup dan lebih sistematis, untuk mengantisipasi
perkembangan zaman. Maka setelah berkordinasi dengan berbagai kiai,
akhirnya muncul kesepakatan untuk membentuk organisasi yang bernama
Nahdlatul Ulama (Kebangkitan Ulama) pada 16 Rajab 1344 H (31 Januari
1926). Organisasi ini dipimpin oleh KH. Hasyim Asy'ari sebagi Rais
Akbar.
Untuk menegaskan prisip dasar orgasnisai ini, maka KH. Hasyim Asy'ari
merumuskan Kitab Qanun Asasi (prinsip dasar), kemudian juga merumuskan
kitab I'tiqad Ahlussunnah Wal Jamaah. Kedua kitab tersebut kemudian
diejawantahkan dalam Khittah NU , yang dijadikan dasar dan rujukan warga
NU dalam berpikir dan bertindak dalam bidang sosial, keagamaan dan politik.
