Als am 12. Januar 1904 in Deutsch-Südwestafrika der Herero-Aufstand ausbrach, meldete Bayer sich freiwillig. Nach seinem Ausscheiden aus dem Heer am 31. Januar 1904 wurde er am 1. Februar desselben Jahres im Stab des Führers des Marine-Expeditionskorps für Deutsch-Südwestafrika im 2. Seebataillon eingesetzt. Er erhielt die Beförderung zum Hauptmann vorläufig ohne Patent, das ihm am 10. März nach seiner Ankunft in der Kolonie übergeben wurde. Im gleichen Monat wurde Bayer dem Oberkommando der Schutztruppe unter Gouverneur Oberst Theodor Leutwein als Zweiter Generalstabsoffizier zugeteilt. Seine Stationierung war bei der Hauptabteilung in Okahandja. Ebenfalls 1904 traf er in Südwestafrika auf den späteren Gründer des deutschen Pfadfindertums, Alexander Lion, ohne dass es jedoch zu einer freundschaftlichen Bindung kam.