Mit Ausbruch des Ersten Weltkriegs ernannte man Kieffer zum Adjutant der 2. gemischten Landwehr-Infanterie-Brigade, mit der er in Lothringen zum Einsatz kam. Dort folgte am 3. November 1914 seine Beförderung zum Hauptmann sowie am 27. Januar 1915 seine Versetzung als Adjutant zur neu gebildeten 6. Landwehr-Division. Mit ihr lag Kieffer im Stellungskrieg im Oberelsass. Mitte November 1916 kehrte er in den Truppendienst zurück, übernahm zunächst die Führung des III. Bataillons im 27. Infanterie-Regiment und wurde Ende des Monats schließlich zum Bataillonskommandeur ernannt. Mit dem Regiment nahm er am Feldzug gegen Rumänien teil. Dabei gelang es ihm am 5. Dezember 1916 trotz zahlenmäßiger Unterlegenheit seiner Truppen, unter dem Schutz der Dunkelheit und bei einsetzendem Regen, die strategisch wichtige 300 m lange Eisenbahnbrücke über die Prahova im Handstreich zu erobern. Durch diese Tat wurden 600 rumänische Offiziere und Mannschaften als Kriegsgefangene eingebracht und die nachfolgende 12. Infanterie-Division konnte am nächsten Tag den Fluss überqueren, die Stadt Ploesti angreifen und schließlich einnehmen. Für diese Leistung wurde Kieffer durch König Ludwig III. mit dem Ritterkreuz des Militär-Max-Joseph-Ordens beliehen. Mit der Verleihung war die Erhebung in den persönlichen Adelsstand verbunden und er durfte sich nach der Eintragung in die Adelsmatrikel „Ritter von Kieffer“ nennen.