Madrasah Ibtidaiyah Dewi Masyithoh 02 didirikan oleh Yayasan Dewi Masyithoh Banyumudal, Moga, Kab. Pemalang pada tanggal 18 Januari 1982. Awal berdirinya merupakan suatu pemekaran dari MI Dewi Masyithoh 01 yang kebanjiran siswa sehingga tidak mampu menampung siswa-siswinya sedang sarana ruang belajarnya terbatas.
Kemudian Yayasan Dewi Masyithoh bertekad bulat untuk mendirikan MI Dewi Masyithoh 02 yang terletak di atas areal tanah yang luas yaitu +2340 m², +1 Km dari MI Dewi Masyithoh 01 yaitu di Jalan Bakulan No. 84 Banyumudal Moga Pemalang.
Bagi Yayasan Dewi Masyithoh waktu itu bukanlah hal yang sulit untuk mendirikan MI Dewi Masyithoh 02 karena didukung oleh masyarakat, tokoh-tokoh masyarakat Banyumudal dan juga instansi terkait.
Secara geografis Desa Banyumudal terletak di kaki gunung Slamet yang udaranya segar dan sejuk, sedang lokasi MI Dewi Masyithoh 02 di tengah-tengah perumahan kampung didekat sungai Cempaka Wulung yang airnya jernih, indah dan dijadikan sumber alam wisata dan dihiasi dengan hutan dan cagar alamnya, sehingga cocok sekali dijadikan tempat belajar, ditambah keadaan penduduk yang agamis, maka tak asing bagi mereka untuk menyekolahkan putranya di Madrasah. Sehingga sampai sekarang telah meluluskan +1000 siswa.
Dari sebagian mereka ada yang jadi dokter, pengusaha, bidan, guru dan lain-lain.