In Sachsen habe er an der „Unterdrückung innerer Unruhen“ teilgenommen. Anschließend kehrte er nach Kassel zurück, wo er 1919 eine Lehre bei einem Buchhändler begann. Zu der Frage, ob er vor Beginn der Lehre noch das Abitur machte oder ob er das Realgymnasium vorzeitig verließ, gibt es unterschiedliche Angaben. Nach Mertens’ Angaben drängte der monarchistisch gesinnte Buchhändler seinen Lehrling jedoch dazu, sich an der Niederschlagung der oberschlesischen Aufstände im Mai 1921 zu beteiligen. Auf diese Weise kam Mertens zunächst zum Bund Oberland. Anschließend kehrte er wieder nach Kassel in die Buchhandlung zurück. 1922 sei er eine Zeitlang durch Deutschland und Italien gewandert, bevor er, der Familientradition folgend, nach Brandenburg zur Polizeischule gegangen sei. Während des Ruhrkampfes wurde er vom Bund Oberland zu Sabotageakten ins Ruhrgebiet beordert. Über den Bund gelangte er auch zur Schwarzen Reichswehr. 1924 kam er ein weiteres Mal in seine Heimatstadt zurück und nahm sich vor, nicht mehr zu den illegalen Wehrverbänden zurückzukehren. Diesem Entschluss blieb er auch treu, als die Organisation Consul ihn im Oktober 1924 zwingen wollte, sich dem Verband anzuschließen. Um möglichen Racheakten zu entgehen, reiste er in die Schweiz und nach Italien, wo er als Journalist arbeitete. Im April 1925 kehrte er nach Deutschland zurück. Die Wahl Paul von Hindenburgs zum Reichspräsidenten veranlasste Mertens an seinem neuen Aufenthaltsort Darmstadt, unterstützt von SPD-Kreisen seine Erfahrungen mit den Vaterländischen Verbänden zu publizieren und damit die reaktionären Kräfte zu bekämpfen.