Lahir di Kajen (Pati, Jawa Tengah) pada 1937 dari sebuah keluarga yang selama beberapa generasi melahirkan ulama, dan melalui perkawinan-perkawinan juga mempunyai hubungan dengan keluarga-keluarga tokoh ulama Jawa Timur. Belajar di berbagai pesantren Jawa tengah dan Jawa Timur, dan melengkapi pendidikannya dengan belajar di Mekah selama tiga tahun. 

Pada 1963 dia menggantikan kedudukan ayahnya sebagai pimpinan pesantren di Kajen, dimana dia memperkenalkan pembaruan-pembaruan pendidikan yang moderat. Merupakan salah seorang kiai yang paling awal terlibat dalam proyek-proyek pengembangan masyarakat. Memegang berbagai posisi pimpinan di NU dan MUI pada tingkat regional dan propinsi; pada 1984 dan kembali pada 1989 terpilih untuk posisi Syuriyah PBNU (sebagai Rois), dan pada 1994 terpilih sebagai wakil Rois 'Aam Syuriah PBNU