تمامی شاخه‌های نیروهای مسلح آلمان در تمامی جبهات از جمله جبهات غربی و شرقی، شمال آفریقا و نروژ از این تفنگ در جریان جنگ جهانی دوم استفاده کردند. در اوایل جنگ با توجه به استفاده از تفنگ‌های نیمه خودکار توسط دشمنان همانند ارتش سرخ و نیروهای آمریکایی ضعف نواخت پایین تیر در کارابینر ۹۸کا عیان تر شد. با این حال کارابینر ۹۸کا همچنان تفنگ اصلی میدان‌های نبرد در ارتش آلمان باقی ماند. از همین روز کارابینر ۹۸کا تنها سلاحی نام گرفت که از نخستین روز تا واپسین روز جنگ جهانی دوم به خدمت در ارتش آلمان ادامه داد.