Beliau lahir di Cibalagbag Dusun Cikiangir Desa Mandalaguna ( dahulu Kawitan ) Kecamatan Salopa Kab. Tasikmalaya pada tanggal 12 Agustus Tahun 1938. Beliau lahir dari seorang ibu bernama ibu Hj. Sukmi dan Ayahnya bernama H. Hudaeli.
K.H. Saepudin Zuhri, mendirikan Pesantren pada 18 Agustus 1964, awalnya pondok pesantren ini bernama Haurkuning, sehubungan lokasinya berada di puncak haur. Menurut salah satu sumber, nama Haurkuning tidak ada kaitannya dengan puncak Haur. Nama Haurkuning diberikan oleh almarhum KH Muhammad Nawawi Cikajang Garut pada saat KH Saepudin Zuhri menimba ilmu agama disana.
Nama Baitul Hikmah diberikan setelah KH Saefudin Zuhri pulang dari tanah suci Mekkah pada tahun 1978. Menurut berbagai sumber, nama Baitul Hikmah itu muncul ketika beliau bertawaf di Baitullah tepatnya waktu berdoa di Multazam. Tiba-tiba ada suara beberapa kali menyebut Baitul Hikmah, sehingga beliau mempunyai firasat bahwa pesantren ini harus diberi nama "BAITUL HIKMAH".
Baitul Hikmah berarti rumah ilmu, sesuai dengan fungsi pesantren sebagai lembaga ilmu yang diharapkan mampu mencetak kader muslim yang betul-betul menguasai ilmu agama untuk diamalkan dan disebarluaskan kepada masyarakat.
Pesantren Baitul Hikmah Haur Kuning saat ini dikelola oleh putranya yakni KH Busrol Karim. Fokus pada pengajaran yang diberikan kepada santrinya yakni ilmu agama terlebih tentang ilmu alat Nahwu dan Sorof. Selain itu, di pesantren ini juga terdapat lembaga pendidikan lain seperti MTS, SMP, SMA dan MA, dan menurut informasi akan di adakan juga Perguruan Tinggi,
Sepeninggal K.H. Saepudin Zuhri yang Wafat pada tahun 2013 Pondok Pesantren Baitul Hikmah kini telah menjadi Pondok Pesantren yang sangat pesat dilihat dari jumlah santri dan infrastruktur yang meningkat, tidak hanya itu kualitas santri bisa di lihat dari berbagai macam perlombaan yang mewakili berbagai darerah untuk ikut berkompetisi dalam acara musabaqoh seperti MQK. Dikarenakan banyak rekam jejak yang sangat luar biasa, banyak orang tua yang mengirim anak-anaknya untuk mondok di sana.
