Sejarah Awal
Sekolah Agama (Arab) yang pertama di Daerah Segamat telah diasaskan oleh Allahyarham En. Abdullah bin Mahat (Penghulu Mukim Buloh Kasap) pada tahun 1928 atas nama AL-MADRASAH AT-TAMRIN AD-DINI yang bertempat di Mukim Buloh Kasap. Walau bagaimana pun, apabila tercetus Perang Dunia Kedua dan diikuti dengan kemasukan Jepun ke Tanah Melayu pada tahun 1941, aktiviti sekolah tersebut tidak dapat diteruskan.
Selepas Jepun meninggalkan Tanah Melayu pada tahun 1946, satu lagi Sekolah Agama (Arab) ditubuhkan di Daerah Segamat hasil dari pakatan beberapa orang Ketua Kaum Orang Islam, pegawai-pegawai kerajaan, Tuan-tuan Imam, Penghulu-penghulu, ketua-ketua kampung di sekitar Daerah Segamat dan diketuai oleh Allahyarham Tuan Syed Mohammad bin Abdullah Al-Kherd (Tuan Kadi Daerah Segamat). Sekolah yang bersandarkan nama MADRASATUL ‘ARABIAH AL-KHAIRIAH ini pada mulanya bertempat di sebuah Kelab Melayu di Kampung Tengah, Segamat yang terletak kira-kira 2.5 kilometer dari pusat Bandar Segamat. Oleh kerana kawasan tersebut sering dilanda banjir, Jawatankuasa Tadbir Sekolah pada ketika itu telah bersetuju untuk memindahkan lokasi sekolah dan menumpang di bangunan Surau Besar Batu Hampar atau lebih dikenali sebagai “Surau Haji Hussein” yang terletak tidak jauh dari Jalan Kolam Air mulai 20 Mei 1949 M.
Selama enam tahun menumpang di bangunan surau tersebut, pertambahan bilangan pelajar menyebabkan kawasan surau itu tidak sesuai sebagai tempat belajar. Jawatankuasa Tadbir Sekolah telah sekali lagi mencari tapak untuk memindahkan pusat pengajian sekolah tersebut dan akhirnya sebuah tapak kekal diperolehi di Tapak Wakaf Bukit Gubah, Segamat yang pada asalnya adalah Tanah Perkuburan Islam. Di tapak inilah Al-Madrasah Al-Arabiah Al-Khairiah Segamat kekal sehingga ke hari ini
Kini, sekolah tersebut dikenali dengan SEKOLAH MENENGAH AGAMA AL-KHAIRIAH SEGAMAT yang mampu menampung sehingga 400 orang pelajar. Semoga dengan bantuan dan sokongan yang diterima dari masyarakat sekitar, Jabatan Agama Islam Johor, Majlis Agama Islam Johor dan Kementerian Pelajaran Malaysia, sekolah ini akan dapat terus bertahan dan mendapat tempat di hati masyarakat Islam.
Detik 14 Ogos 2012 sekolah ini telah melangkah ke suatu era yang baru iaitu telah diambil alih oleh Kementerian Pelajaran Malaysia di bawah Bahagian Pendidikan Islam dengan nama Sekolah Agama Bantuan Kerajaan.