PaK 38の生産開始後、PaK 36向けにタングステン芯入りの新型徹甲弾PzGr40が開発され供給されたが、1941年のバルバロッサ作戦でソビエト連邦への侵攻を開始したドイツ軍は、新型のT-34中戦車（30トン級）やKV-1重戦車（45トン級）と相まみえた。その結果、PaK 36では至近距離であっても、どの方向から何十発も命中弾を与えても貫通させるのが困難であると判明した。ドイツ側の記録によると、車体側面後部が地面の傾斜で垂直になったところを狙う、車体前方機銃の銃眼や操縦士用ハッチのペリスコープといった小さな急所をピンポイントで狙う、といった手段をとる他に擱座させるチャンスはなかったという。また、鹵獲したPzGr40を用いてのソ連軍による耐弾試験では、T-34の車体側面下部（転綸の背後にある傾斜のない箇所）対し命中角0度で400m以内、砲塔側面で150m以内で貫通可能であったと記録されている。しかし後継であるPaK 38の配備は不十分であり、更なる新型の7.5 cm PaK 40の配備が始まる1942年までは、第一線の対戦車部隊で使用されていた。