Masjid Al Muhibbin merupakan salah satu bangunan pertama yang didirikan ketika awal mula membangun pondok. Awal mula berdirinya, tidak langsung serta merta menjadi masjid, tetapi masih bernama Pasujudan Al Muhibbin karena masih belum digunakan untuk Sholat Jum’at , karena saat itu pelaksanaan Sholat Jum’at masih tersentral di Masjid Bahrul ‘Ulum yang terletak di Pondok Putra Bahrul ‘Ulum (Induk).