Meriam ini pertama kali digunakan pada Perang Saudara Spanyol pada 1936, dengan kinerja yang baik melawan tank ringan pada perang tersebut. Meriam ini pertama kali digunakan pada Perang Dunia II melawan Polandia pada 1939 dan tidak mengalami rintangan berarti dalam menghadapi tank-tank Polandia. Pertempuran Prancis pada 1940 mengungkapkan ketidakmampuannya menembus tank berat Prancis dan Inggris, menerima julukan "pengetuk pintu" dari awaknya, tetapi dinilai cukup untuk mengalahkan sebagian besar tank Sekutu dalam pertempuran itu. Invasi ke Uni Soviet menghadapkan Pak 36 pada tank T-34 and KV-1 dalam jumlah besar, yang kebal terhadap tembakannya. Namun, 91% dari pasukan tank Soviet pada 1941 terdiri atas jenis yang lebih ringan, yang tidak memiliki cukup perisai untuk mengalahkan Pak 36, sehingga Pak 36 dapat melawan ribuan tank ringan tersebut.