莱茵金属公司于1935年开始研发新式的反坦克炮，一开始，纳粹德国当局并不满意，莱茵金属对其进行了改进之后，并于1939年开始生产。它并没有投入任何在西线的战斗，但是却参加了巴巴罗萨行动。
服役.Pak 38最开始由纳粹德国的德意志国防军陆军于1941年4月使用。当纳粹德国在1941年的巴巴罗萨计划面对苏联的铁甲洪流的时候，PaK 38是少有几种德军能够贯穿T-34坦克的45mm装甲的早期型火炮之一。这种火炮还配备了拥有坚硬的钨心的“AP40”(Panzergranate 40) 钨