Berdirinya Majelis Al-Karomah Karangwangi berawal dari keprihatinan terhadap adab dan akhlak di lingkungan masyakarakat. Dimana pada masa itu masyarakat kurang menerapkan hidup bersosial, bebasnya perilaku yang melanggar Norma Agama dan kurangnya Pendidikan Keagamaan bagi generasi muda dan masyarakat yang menimbulkan ketidaknyamanan. Sehingga menarik perhatian dengan rasa iba yang tinggi dari seorang Tokoh Agama setempat yaitu Bapak Ust. Muhamad Jaya Bahrudin, S.Kom.I untuk menerapkan Pembinaan Pendidikan Keagamaan di kalangan masyarakat dengan metode Dakwah secara pendekatan personal dan musyawarah yang berlandaskan pada “Amar Ma’ruf Nahi Munkar”.