Anfangs feierten Gleidingens Katholiken Gottesdienste im Schulraum.

Angefangen hat alles im Jahr 1914 in einem Schulraum: Weil die Zahl der Katholiken in Gleidingen stieg, wählten die Gläubigen diese profane Stätte, um erstmals ihren Gottesdienst in der überwiegend protestantischen Ortschaft zu feiern. Als provisorischer Altar soll damals ein Ankleideschrank gedient haben. Seit dem 19. Jahrhundert waren viele Katholiken aus Oberschlesien und Posen nach Gleidingen gezogen – im Jahr 1910 waren es bereits 240. Am 19. Februar 1939 wurde das vom Hildesheimer Architekten Johannes Fricke entworfene Gotteshaus von Bischof Josef Godehard geweiht. Dieser schenkte der Gemeinde eine Bronzeglocke und eine hölzerne Josefsstatue. Bei einem Bombenangriff am 22. September 1943 wurde St. Josef schwer beschädigt, das Dach war fast abgedeckt. Nach dem Krieg baute die Gemeinde die Kirche wieder auf. 1973 wurde neben dem Gotteshaus das Josef-Godehard-Heim gebaut. 1982 wechselte die Gemeinde von der Pfarrei Ruthe zur noch jungen Laatzener St.-Oliver-Gemeinde. Seitdem ist St. Josef eine von drei Kirchen der katholischen Gemeinde in Laatzen.