Vorläufer des JG-2 war die im Dezember 1953 aufgestellte 2. Abteilung des 1. Aeroklubs der Kasernierten Volkspolizei am Flugplatz Cottbus-Nord. Am 1. Dezember 1954 wurde sie in das 2. Kommando des 1. Aeroklubs der Kasernierten Volkspolizei umbenannt. Am 1. Juli 1956 erfolgte eine Umbenennung in Fliegergeschwader 2 der 1. Fliegerdivision. Gleichzeitig erfolgte eine Verlegung auf den Flugplatz Rothenburg. Mit der Übernahme in die NVA am 1. März 1957 wurde es als 2. Fliegergeschwader der 1. Fliegerdivision geführt. Ab Oktober 1961 wurde das Geschwader zum Flugplatz Trollenhagen nach Mecklenburg-Vorpommern dem heutigen Flughafen Neubrandenburg verlegt, wo es am 1. November 1961 in Jagdfliegergeschwader 2 (JFG 2; später JG-2) umbenannt wurde. Einher ging eine Änderung der Struktur der Luftstreitkräfte. Das JG-2 wurde nunmehr der 3. Luftverteidigungsdivision mit Stab in Neubrandenburg operationell umunterstellt.
Am 26. Februar 1971 wurde dem Geschwader der Traditionsname "Juri Gagarin" verliehen.
Auf Beschluss der DDR-Staatsführung, 1989 als Beitrag zur Abrüstung ein Jagdfliegergeschwader aufzulösen, erhielt das JG-2 jüngere und besser ausgestattete MiG-21MF vom aufzulösenden JG-7 im Tausch für ältere MiG-21SPS/K. Am 26. September 1990 fand der letzte Flugdienst statt.
)