През юни 1941 г. Нацистка Германия нарушава пакта за ненападение и навлиза в СССР. За разлика от много гранични офицери, напълно изненадани от немското нашествие, Баграмян и неговият командир, Михаил Кирпонос, смятат нападението от страна на Германия за неизбежно. Кирпонос обаче игнорира мнението на Баграмян, че немските сили ще използват тактиката Светкавична война използвани по време на нападението на Полша през 1939 г. и Франция през 1940 г. От зимата на 1939 – 1940 г. Баграмян е натоварен със съставянето на план, който да посрещне евентуални заплахи идващи от Западна Украйна. На 10 май 1940 г. планът му е одобрен след множество ревизии.