Beliau merupakan putra kedua dari Syekh Dahlan yang lahir di Sarang pada tahun 1323 H. bertepatan dengan hijrahnya Syekh Syu’aib ke Makkah. Di bawah bimbingan orang tua dan pamannya, beliau belajar Al-Quran dan ilmu agama yang lain kepada kakeknya Kyai Syu’aib dan belajar bermacam-macam pengetahuan agama kepada ayahnya Kyai Dahlan, belajar kitab Khulashoh Ibn Malik dan dasar ilmu alat kepada Kyai Ahmad bin Syu’aib dan mengaji Fathul Alwahhab kepada Kyai Fathurrohman.
Beliau tumbuh sebagai anak yang sangat cerdas. Terbukti sejak berusia 6 tahun beliau sudah bisa membaca Al-Qur’an dengan tajwid yang fashih. Ketika berusia 17 tahun, bersama dengan kakek dan neneknya, beliau berangkat ke Makkah tahun 1358 H guna menimba ilmu kepada Ulama’-ulama’ di sana bersama-sama dengan pamannya yaitu KH. Imam Kholil. Di antara Masyayekh beliau adalah: Syekh Baqir Al-Jogjawi, Syekh Sa’id Al-Yamani dan putranya yaitu Syekh Hasan Al-Yamani.
Setelah mukim di sana selama 3 tahun, bersama pamannya (KH. Imam Kholil) beliau kembali ke Sarang, dan melanjutkan studinya kepadda Syekh Faqih bin Abdul Jabbar Maskumambang. Dari gurunya ini beliau belajar Tafsir, Jam’ul Jawami’ syarah Ummul Barohin, dan memperoleh kitab sanad yang berjudul “Kifayatul Mustafid” karangan Syekh Mahfudz Termas.
Pada umur 24 tahun, beliau menikah dengan Nyai Mahmudah putri Kyai Ahmad bin Syu’aib, dikaruniai 5 anak yang semuanya meninggal kecuali satu yaitu KH Maimun Zubair. Kemudian Istrinya meninggal lalu menikah lagi dengan Nyai ‘Aisyah putri Kyai Abdul Hadi Borno. Dari pernikahan ini beliau dikaruniai banyak anak laki-laki dan perempuan.
Pada 1371 H beliau berangkat lagi ke Makkah untuk menunaikan ibadah Haji. Pada kesempatan yang sangat singkat ini, beliau manfa’atkan untuk bertemu dan belajar dengan Ulama’-ulama’ di sana, di antaranya yaitu Sayyid Allawi Al-Maliky dan Syekh Yasin Al-Fadany yang memberikan ijazah kepada beliau dengan ijazah yang tammah.
Tepatnya pada tanggal 15 Romadlon 1389 H. beliu berpulang ke Rahmatulloh dengan banyak meninggalkan banyak suri tauladan.