Pondok Pesantren Nasyrul Ulum didirikan pada tahun 1985 oleh almaghfurlah KH. Abdurrahman, berawal dari sebuah musholla kecil dengan belasan santri. Berkat keikhlasan dan perjuangan para pendiri, pesantren terus berkembang hingga kini menampung lebih dari seribu santri.
Pada tahun 1995, kepemimpinan pesantren diteruskan oleh KH. Ahmad Nasyruddin. Di bawah kepemimpinan beliau, pesantren mendirikan lembaga pendidikan formal MTs dan MA, serta program tahfidzul Qur'an.