1919 schloss Höß sich dem Freikorps Roßbach an und nahm an Kämpfen im Baltikum, im Ruhrgebiet und in Oberschlesien teil. Danach schlug er sich zeitweise als Tagelöhner in landwirtschaftlichen Betrieben in Schlesien und Mecklenburg durch. Die dabei erlittenen persönlichen Niederlagen ließen ihn den Suizid erwägen, bis er auf die NSDAP aufmerksam wurde und ihr im November 1922 beitrat (Mitgliedsnummer 3.240). Bereits 1921 war er aus der katholischen Kirche ausgetreten. Er war dann am 31. Mai 1923 am Parchimer Fememord an Walter Kadow beteiligt, der verdächtigt wurde, Albert Leo Schlageter an die Franzosen verraten und damit seine Hinrichtung verschuldet zu haben. Aus Angst, als Mitwisser selbst liquidiert zu werden, zeigte einer der Beteiligten den Mord an. Höß wurde verhaftet und am 15. März 1924 zu zehn Jahren Zuchthaus verurteilt. Sein späterer Förderer Martin Bormann erhielt für seine Rolle beim „Parchimer Fememord“ ein Jahr Freiheitsstrafe. Bereits am 14. Juli 1928 kam Höß aufgrund einer allgemeinen Amnestie wieder frei.