Bentuk menara seperti candi dan terdapat sebuah batu yang berasal dari Baitul Maqdis atau Al-Quds di Yerusalem, Palestina, sebagai prasasti sejarah pembangunan masjid tersebut.
Menurut hikayat, batu Baitul Maqdis atau Al-Quds yang merupakan kenang-kenangan saat Sunan Kudus berkunjung ke Masjid Al-Aqsa di Palestina dan hal itulah yang menginspirasi lahirnya nama Kudus yang berarti suci.
Masjid ini juga memiliki keunikan lain, seperti pintu gapura yang berbentuk menyerupai gapura candi-candi di Bali atau kerap disebut kori agung. Menariknya, selain berada di depan, gapura ini juga terdapat di dalam ruang utama ibadah.
Menurut sejarah, gapura tersebut merupakan sisa gerbang dari masa awal masjid yang . Gerbang ini dahulu dikenal dengan nama Lawang Kembar atau Pintu Kembar.
