Czołg KW-2 powstał jako wersja pochodna nowego typu czołgu ciężkiego KW-1, opracowanego w 1939 w Leningradzkich Zakładach Kirowskich (LKZ). Oznaczenie KW otrzymał na cześć ludowego komisarza obrony Klimienta Woroszyłowa. Prototypowy czołg KW-1 testowany był bojowo w wojnie radziecko-fińskiej (wojnie zimowej), w walkach na Przesmyku Karelskim w grudniu 1939. Okazało się jednak, że stanowiąca uzbrojenie czołgu armata L-11 kalibru 76,2 mm była niewystarczająca do niszczenia drewnianych i żelbetowych schronów i umocnień fińskich. Zakłady LKZ otrzymały polecenie opracowania w szybkim tempie wersji czołgu KW z armatą większego kalibru. Zdecydowano się na bezprecedensowe posunięcie w postaci zamontowania w obrotowej wieży czołgu zmodyfikowanej haubicy M-10 kaliber 152 mm, rozwiniętej z haubicy wz. 1938.