En mayo de 1942 tuvo lugar uno de los episodios más controvertidos de la carrera de Vasilevski. La segunda batalla de Járkov fue una contraofensiva que concluyó en una derrota del Ejército Rojo, y en última instancia una victoria de los alemanes en su ofensiva del sur (Operación Azul).