Bereits in den ersten Nachkriegsjahren haben sich rund um den See die ersten Kleingärtner angesiedelt, um Obst und Gemüse anzubauen. Daneben entwickelte sich ein Badeleben. So entstand das Freibadgelände „Klein-Wangerooge“ auf der Südseite des Banter Sees. Aus den reinen Gemüseanbauflächen entstanden Kleingärten, die Stück für Stück verschönert und verbessert wurden. Es wurden Gartenhäuser gebaut, Blumen gezüchtet und das Badeleben im Sommer ausgekostet.
Am 08.02.1971 haben die Kleingärtner um den Banter See den „Freizeit- und Gartenverein am Zwischenhafen e. V. Wilhelmshaven“ gegründet. Das Vereinsgelände bestand aus Kleingärten am Banter See. Eigentümer des Grund und Bodens war die Bundesvermögensstelle.
Seit dem 1.1.1977 gibt es einen Generalpachtvertrag mit der Stadt Wilhelmshaven. Der Verein schloss Unterpachtverträge. Aufgrund der durch die vertraglichen Verhältnisse gegebenen Sicherheit haben die Vereinsmitglieder auf eigene Kosten die weitere Erschließung des Geländes vorangetrieben. Wegebau, Strom- und Wasserleitungen in die einzelnen Gärten verlegt. Weitere Regelungsbereiche kamen in der Folgezeit hinzu. Zu nennen ist zum Beispiel die Abwasserbeseitigung.
1980 wurden neue Verträge mit der Stadt Wilhelmshaven ausgehandelt. Die Verträge sahen nun eine Entschädigungsklausel und eine Pachtdauer von 20 Jahren vor.
1996 wurde unter Zusammenfassung aller bis dahin erschienenen Nachträge ein neuer Vertrag geschrieben mit der Laufzeit bis zum 31.12.2017.
Der Verein schloss durch seinen Vorstand mit der Stadt Wilhelmshaven einen neuen Generalpachtvertrag ab, der seit dem 01.01.2018 wirksam ist. Anschließend schloss der Verein mit seinen Mitgliedern ebenfalls entsprechende neue Unterpachtverträge ab.
Der Verein ist seit 1987 gemeinnützig.