Landmark Kampung Melayu adalah Masjid Menara, merupakan masjid tua yang terletak di jalan Layur Semarang. Masjid tua ini dibangun dipinggir Kali Semarang oleh kaum Arab Hadramaut, dimana masyarakat di Kampung Melayu mengenalnya sebagai kaum habib.Masjid menara merupakan elemen fisik primer yang paling utama di lingkungan Kampung Melayu Semarang. Menara masjid yang tinggi menjulang dengan bentuk menyerupai mercusuar merupakan simbol dan ciri spesifik (locus solus) Kampung Melayu.
Masjid Menara dibangun tahun 1802 oleh ulama Arab Hadramaut (Yaman). Bentuk dan struktur bangunan masjid adalah bangunan dua lantai, atap berbentuk meru (pengaruh Demak). Lantai masjid menggunakan material kayu, pondasi menggunakan umpak batu bata dengan kedalaman 3 meter dan lebar 1 meter.
Pada masjid terdapat tangga melingkar menuju atas bangunan, tangga terbuat dari kayu dan ditanam pada dinding menara. Menurut Muhsin Alatas selaku pengurus Badan Wakaf Masjid Menara (wawancara tahun 2000), tahun 1948 menara tersambar petir, akibatnya ketinggian menara tinggal dua pertiga bagian saja.
Bangunan induk dan menara masjid mengalami transformasi bentuk, karena adanya pengurukan lantai sekitar 200 centimeter. Bangunan induk masjid di lantai satu, tidak lagi berfungsi sebagai tempat ibadah, maka pada lantai dua terdapat perluasan ruangan yaitu di sisi timur laut dan tenggara.
Konstruksi dan detail masjid masih asli dan terawat dengan baik. Biaya perawatan masjid diperoleh dari bangunan - bangunan (27 rumah) yang diwakafkan untuk kepentingan masjid menara.
Sejak tahun 1956 pada lantai dasar bangunan induk masjid dibuat tempat wudlu. Sebelumnya muslimin yang hendak sholat di masjid menara, terbiasa mengambil air wudlu di Kali Semarang (di sisi timur masjid). Konon air sungai masih terlihat jernih dan tidak berbau.
Menurut Muchsin Alatas (wawancara tahun 2000) pada masjid Menara masih disimpan kitab - kitab kuno, yang konon dibawa oleh para habib untuk menyebarkan agama Islam di Semarang sekitar pada abd 18. Kitab - kitab kuno tersebut menggunakan bahasa dan tulisan Arab asli, yang dibaca pada acara - acara ritual Islam. Kitab tersebut hanya boleh dibaca dan didengar oleh kalangan Islam ortodok, untuk menjaga kesakralan kitab kuno tersebut.
Warga Kampung Melayu, khususnya kalangan Arab memiliki kecintaan yang sangat besar pada bangunan bersejarah ini. Hal ini terbukti pada saat merealisasikan program normalisasi sungai (program pemerintah sekitar tahun 1980-an, untuk memperbaiki lingkungan sekitar Kali Semarang), masjid tersebut seharusnya mengalami penggusuran dan pemotongan, diperkirakan hanya menaranya saja yang tertinggal. Tetapi dengan gigih mereka memperjuangkan keberadaan masjid menara tersebut, sehingga sampai sekarang masjid ini masih berdiri dengan kokoh dan terawat dengan baik.
