تأسس المسجد عام 620 للهجرة، ورغم صغر مساحته، فإنه من أقدم المساجد والأعيان الأثرية في قطاع غزة، وهو موجود في حي الزيتون شرق مدينة غزة، ومجاور للمسجد العمري الكبير، الذي دمره الاحتلال خلال هذا العدوان.

وقام طيران الاحتلال الإسرائيلي باستهداف مسجد عثمان بن قشقار في البلدة القديمة بمدينة غزة، مما أدى إلى تدميره تدمير كلي، وتحوله إلى كومة من الأنقاض.