أنشئ المسجد عام 1371 م وهو من مساجد غزة المشهورة، يقع مسجد ابن مروان في حي الشجاعية، إلى الطرف الشمالي الشرقي من مدينة غزة على شارع صلاح الدين، يمتد المسجد على مساحة 320 مترًا مربعًا، يحد المسجد من الجهة الشرقية شارع صلاح الدين، ومن الجهتين الجنوبية والغربية مقبرة تحوي قبر الشيخ علي بن مروان، وهي المقبرة التي حملت اسمه أيضاً،ويعود في بنائه للعصر المملوكي، وقد سمي نسبة إلى الشيخ علي بن مروان صاحب الضريح الموجود أسفل القبة الملحقة بالمسجد المتوفى عام 1315 م، ويقال إنه من أشراف أهل المغرب الذين سكنوا غزة.
وللمسجد مئذنة عريضة، وسقف مغطى بتسع قباب دائرية الشكل، ويستند إلى ستة أعمدة رخامية تتزين بالنقوش الإسلامية البارزة. ويتميز الصحن الداخلي الذي يتوسط المنبر من ناحيته الشرقية بالزخارف والأقواس. وقد تمت إعادة بناء المسجد وترميمه أول مرةٍ سنة 1325، بعد وفاة الإمام علي بن مروان بعشر سنوات تقريباً.
تعرض مسجد ابن مروان للتدمير في 10-12- 2023، أثناء توغل قوات الاحتلال الإسرائيلي في حيّ الشجاعية، في حين تعرضت المقبرة التي تجاوره للتجريف.