С мая 1942 года — командующий 4-й воздушной армией (действовала в полосе Южного, Северо-Кавказского и Закавказского фронтов), участвовал в оборонительных боях на южном фланге советско-германского фронта летом и осенью 1942 года. В сентябре 1942 — апреле 1943 годов — командующий ВВС Закавказского фронта, в которые входили 4-я и 5-я воздушные армии, а также ВВС Черноморского флота. Хорошо проявил себя в период оборонительного и наступательного этапа Битвы за Кавказ. Во время наступления советских войск на Кавказе по инициативе К. А. Вершинина были применены малоскоростные, но высокоманёвренные истребители И-153 («Чайка»), которые эффективно атаковали противника на малых высотах.