Nach Beginn des Zweiten Weltkrieges gehörte Finnberg dem Stab des Inspekteurs der Sicherheitspolizei und des SD (IdS) in Düsseldorf Hans Nockemann an und folgte diesem als Referent ins Amt II des Reichssicherheitshauptamtes (RSHA). Im Zuge des Überfalls auf die Sowjetunion war er von Ende Juni 1941 bis Anfang Oktober 1941 als Adjutant und persönlicher Referent im Stab der Einsatzgruppe A unter Walter Stahlecker eingesetzt. Danach war er Untersuchungsführer beim Befehlshaber der Sicherheitspolizei und des SD (BdS) in Riga.