Am 1. April 1936 meldete sich Barkmann 16-jährig freiwillig zur SS-Verfügungstruppe und kam zur Ausbildung in die SS-Standarte „Germania“ nach Hamburg. Mit der 9. Kompanie des III.SS-VT „Germania“ wurde Barkmann am 31. Juli 1937 in die SS-Garnison Radolfzell verlegt. Als MG-Schütze nahm er in dieser Einheit 1939 am Überfall auf Polen teil. In der im Oktober 1939 gebildeten SS-Verfügungsdivision gehörte Barkmann zu den im Mai 1940 beim Angriff auf Frankreich beteiligten SS-Einheiten. Mit dem SS-Regiment „Germania“ nahm er in der neu aufgestellten SS-Division „Wiking“ ab 22. Juni 1941 am Angriff auf die Sowjetunion teil. Nach einer schweren Verwundung im Juli 1941 kam er Ende 1942 als Panzerkommandant zur 2. SS-Panzer-Division „Das Reich“ und nahm nach Einsätzen 1943 in Charkow und Kursk nach der alliierten Landung in Nordfrankreich von Juni bis August 1944 an Kämpfen bei Saint-Lô in der Normandie teil. Barkmanns Einheit kam außerdem im Winter 1944 im Rahmen der Ardennenoffensive zum Einsatz.