Ab dem 1. April 1942 leitete Bagramjan unter Marschall Timoschenko nominell das Hauptquartier der Südwestfront. Die sowjetische Offensive nach Charkow endete im Mai in einer Katastrophe. Die Truppen die sich im Brückenkopf von Barwenkowo befanden, wurden dabei von einer deutschen Gegenoffensive abgeschnitten. Trotz der Tatsache, dass alle Entscheidungen im Verlauf der Operationen von Timoschenko und Chruschtschow getroffen wurden, benannte Stalin Baghramjan als Hauptschuldigen der Niederlage. Er wurde vor dem drohenden Militärgericht nur gerettet, weil Schukow bei Stalin intervenierte und die Schuld für das Scheitern der Offensive bei der Stawka und den Generalstab feststellte.