Nach dem Beginn des Deutsch-Sowjetischen Krieges im Juni 1941 wurde Baghramjan zum stellvertretenden Stabschef der Südwest-Front, die ihren Hauptsitz in Kiew hatte. Er nahm in der westlichen Ukraine an der Panzerschlacht bei Dubno-Luzk-Riwne und an der Verteidigung von Kiew teil, in der sein Frontkommandeur Kirponos fiel und alle Fronttruppen von den Deutschen eingeschlossen wurden. Er war einer von wenigen erfahrenen Offizieren, die mit Teilen der Truppen aus der Einkesselung ausbrechen konnten.