Mahkamah Syariah pada peringkat awalnya dikenali sebagai Mahkamah Kadi Negeri Perlis telah ditubuhkan pada tahun 1304H bersamaan 1921M. Penubuhannya berdasarkan kepada Undang-undang No.15 tahun 1304H dan berkuatkuasa sehinggalah digantikan dengan Undang-undang Pentadbiran Agama Islam Perlis 1963. Mahkamah Kadi pada masa tersebut berada di bawah Pentadbiran Jabatan Hal Ehwal Agama Islam Perlis. Kerajaan Negeri Perlis telah menggubal dan mewartakan Enakmen Pentadbiran Mahkamah Syariah 1991 pada 03 Disember 1992 untuk menaiktaraf dan menggantikan struktur Mahkamah Kadi yang sedia ada.

Pada 01 Januari 1995, Mahkamah Kadi diasingkan dari Jabatan Hal Ehwal Agama Islam Perlis dan mempunyai pentadbiran sendiri dan diketuai oleh seorang Kadi Besar Perlis sepertimana yang diperuntukan dalam seksyen (3), Enakmen Pentadbiran Mahkamah Syariah 1991.

Pada tahun 1996, Enakmen Pentadbiran Mahkamah Syariah 1991 telah dipinda bagi membolehkan penyusunan semula struktur mahkamah. Mahkamah Kadi telah dikenali sebagai Mahkamah Syariah. Menurut Enakmen Pentadbiran Mahkamah Syariah Perlis 1991 (pindaan) 1996 yang diwartakan pada 30 Mac 2000, struktur organisasi Mahkamah Syariah Negeri Perlis terbahagi kepada tiga peringkat :

• Mahkamah Rayuan Syariah;
• Mahkamah Tinggi Syariah;
• Mahkamah Rendah Syariah.

Sebagai penambahbaikan sistem pentadbiran perundangan Syariah di Negeri Perlis, pada tahun 2006 Dewan Undangan Negeri Perlis telah meluluskan beberapa undang-undang baru, antaranya:

• Enakmen Pentadbiran Agama Islam Perlis 2006 ( pindaan 2017 )
• Enakmen Undang-undang Keluarga Islam Perlis 2006
• Enakmen Keterangan Mahkamah Syariah 2006
• Enakmen Tatacara Mal Mahkamah Syariah 2006
• Enakmen Tatacara Jenayah Mahkamah Syariah 2006

Setelah penstrukturan semula Jabatan banyak perubahan telah berlaku, antaranya pertambahan kakitangan dan pegawai dari hanya 7 orang pada peringkat awal kepada 44 orang pada masa sekarang. Selain itu unit-unit baharu ditubuhkan secara sistematik dan teratur seperti Unit Pengurusan dan Pentadbiran, Unit Kehakiman, Unit Penyelidikan, Unit Sulh, Unit Teknologi Maklumat, Unit Rekod dan Seksyen Bahagian Sokongan Keluarga.

Dari segi infrastruktur, sebuah Kompleks Mahkamah Syariah baru telah dibina melalui peruntukan kerajaan Persekutuan. Bangunan baru tersebut telah mula diduduki sejak tahun 2006 sehingga kini.

Bangunan tersebut telah dirasmikan pada 23 Julai 2013 oleh Duli Yang Maha Mulia Tuanku Raja Perlis, Tuanku Syed Sirajuddin Ibni  Al Marhum Tuanku Syed Putra Jamalullail dan dimashyurkan sebagai Darul Qada' Tuanku Syed Sirajuddin.