Spolu s Pz I boli Pz II nasadené v španielskej občianskej vojne najprv v rámci 88. tankového pluku Légie Condor. V boji s Republkánskymi BT-5 a T-26 však zaznamenali iba rad neúspechov v dôsledku nedostatočnej výzbroje a pancierovania. Nemci nasadili asi 1000 tankov Pz II pri útoku na Francúzsko. Neskôr ich použili i pri útoku na ZSSR. Počas ťaženia na východe však už v nasledujúcom období nemohli konkurovať sovietskej technike a boli čoskoro stiahnuté z prvej línie. Naďalej však boli využívané ako prieskumné vozidlá alebo pri výcviku nových posádok. Verzia L (Lynx, či Luchs) bola na prieskum používaná na obidvoch frontoch do konca vojny.