1940年秋，以少校身份调任北高加索军区的步兵团任团长。因为与上级师长不睦，后调任北高加索军区司令部作战处副处长。
战时.1941年6月22日卫国战争爆发时，巴巴贾尼扬任苏联红军第19集团军作战处副处长，随部队从北高加索开拔到基辅。不久，第19集团军紧急用铁路输送到斯摩棱斯克-维捷布斯克地域，填补在白俄罗斯的苏军被歼灭后的巨大战役缺口。巴巴贾尼扬于7月12日在明斯克公路通向维捷布斯克的岔路口首次参加战斗，消灭了遭遇的德军摩托车前哨。1941年8月中旬，在斯摩棱斯克战役结束后，