Nach dem Schulbesuch trat Faust noch im Februar 1918 als Kriegsfreiwilliger in die Kaiserliche Marine ein. Er wurde auf der SMS "Freya" ausgebildet und anschließend zur SMS "Großer Kurfürst" versetzt. Nach der deutschen Kapitulation nahm Faust Ende 1918 an der Überführung der deutschen Flotte nach Scapa Flow teil, wo er von der Royal Navy interniert wurde. 1919 kehrte Faust nach Deutschland zurück und besuchte eine Handelshochschule. Anschließend arbeitete als Bankangestellter, zuletzt in München. Seit 1920 engagierte sich Faust im nationalistischen Wehrverband Reichsflagge. Nach dessen Spaltung schloss er sich dem von Ernst Röhm geführten Bund Reichskriegsflagge an, in dem er den Posten eines Zugführers erhielt.