Oss Ulu Moskee is opgericht in 1976, de eerste naamgeving van de moskee was Selmiye Moskee. Het initiatief om een moskee te stichten werd genomen doordat er in de omgeving van Oss geen moskeeën waren. De oude watertoren in Oss is door Oss Ulu Moskee (Selmiye) in 1978 overgenomen voor een symbolisch bedrag. De watertoren is ontworpen door architect J.H.J. Kording en gebouwd in 1935. De watertoren heeft een hoogte van 48,5 meter en twee waterreservoirs van elk 300 m³. In 1986 heeft Selmiye Moskee zich aangesloten bij de Islamitische Stichting Nederland (ISN) en wordt sindsdien de Oss Ulu Moskee genoemd. Het Nederlandse volk uit de omgeving noemt dit ook wel de Watertoren Moskee. Er hebben door de jaren heen verschillende uitbreidingen plaatsgevonden om een betere dienstverlening te bieden. Het meest recente uitbreiding heeft plaatsgevonden in 2007-2009, hierbij zijn oude bijliggende gebouwen gesloopt om een nieuwbouw van twee verdiepingen te realiseren. In 2009 heeft een grote opening plaatsgevonden ten behoeve van de nieuwe multiculturele centrum. Dit is ook gelijk het laatste verandering die zichtbaar is aan de buitenmuren.