Von 1936 bis 1938 war Jansen als Gestapo-Agent (V-Mann) in Holland und Belgien tätig. Seine Aufgabe in den Niederlanden und Belgien war, deutsche Emigranten auszuspähen und der Gestapo zu melden. Gleichzeitig verhalf er Verfolgten zur Flucht über die deutsch-niederländische Grenze. 1938 fiel er in Belgien wegen Führens von falschen Namen der Polizei auf, wurde festgenommen und nach Deutschland abgeschoben. Hier wurde er kurzzeitig von der Gestapo in Haft genommen. Nach seiner Freilassung bekam er eine Anstellung im Auswärtigen Amt, wo er ein Presse- und Nachrichtenarchiv aufbaute. Ob diese Anstellung auf Vermittlung des Diplomaten Werner Otto von Hentigs, zu dem Jansen sehr enge Verbindungen pflegte, zustande kam oder auf Anweisung der Gestapo, ist ungeklärt. Um Walther Jansen hatte sich nach Aussage des Widerstandskämpfers und SPD-Bundestagsabgeordneten Hermann Brill schon seit 1940 eine Widerstandsgruppe von sechs bis acht kompromisslosen NS-Gegnern gebildet. Zu diesen zählten unter anderem Brill und dessen Mitarbeiter und Vertreter, der Orientalist Hans Schlobies. Diese drei sahen sich täglich. Auch Eberhard Plewe gehörte zu dem Kreis. In welchem Umfang die Gruppe Jansen mit dem Attentat auf Hitler am 20. Juli 1944 in Verbindung stand, war Brill nicht bekannt, da er während dieser Zeit abwesend war. Jansen war nach dem 20. Juli nicht wegen einer Teilnahme an dem Attentat verhaftet worden, sondern aufgrund von „defaitistischen Äußerungen“ gegen das Regime. Er wurde in das KZ Sachsenhausen deportiert. In der Folge machte Jansen im April 1945 den Todesmarsch des KZ Sachsenhausens nach Wittstock mit und wurde schließlich von der Roten Armee befreit.