Pravim početkom razvoja ovog tenka smatra se godina 1970. kada je odlučeno da se razvije novi tenk, koji bi bio modernizovaniji od Leopard 1 tenka, ali bi bio pokretan pomoću novih MTU motora koji su razvijeni u MBT-70 programu. Za glavnog konstruktora je izabran Krauss-Maffei Wegmann. Prvi prototipovi su razvijeni u periodu 1972. - 1974. i nosili su oznaku Leopard 2K (Kanone, njem. top). Izgrađeno je 17 kupola označenih brojevima od 1 do 17, prvih deset je bilo naoružano topom kalibra 105 mm, ostalih sedam topom kalibra 120 mm, topove je izgradio Rheinmetall. Prototipovi su bili slični veriji Leopard 1A4, ali s klinastim prednjim djelom i ventilnom rešetkom postavljenom na kraju tenka. Osovinski kotači su preuzeti s MBT-70 tenka. Motor je također preuzet s MBT-70 tenka, višegorivi 12-cilindrični MTU MB-873 Ka-500 s vodenim hlađenjem, zajedno s njegovim 20 kW generatorom, prijenosom, zračnim filtrima itd. Motor je bilo moguće zamijeniti u 15 minuta.