1954 erhielt er das Reserveoffizierspatent der Ungarischen Volksarmee. 1956 wurde Gosztony zum Militärdienst in den Ungarischen Streitkräfte eingezogen. Er leistete Dienst als Unterleutnant und war stellvertretender Kompaniechef in einem technischen Arbeitsbataillon. Gosztony nahm an den Verteidigungskämpfen gegen die sowjetische Besatzungsmacht in der Budapester Kilián-Kaserne, deren Kommandant Oberst Pál Maléter war, teil. Nach der Niederschlagung des Ungarischen Volksaufstands musste Gosztony aus Angst vor der zu erwartenden Vergeltung im Dezember 1956 seine Heimat verlassen und gelangte als Flüchtling in die Schweiz.