Filbinger studerte jus og sosialøkonomi ved Albert-Ludwigs-Universität i Freiburg im Breisgau, i München og i Paris. Han var medlem av den katolske ungdomsorganisasjonen Jugendbund Neudeutschland, som stod Det katolske sentrumspartiet nær og som ble forbudt i 1933. Filbinger spilte en ledende rolle i organisasjonen i Nord-Baden, og oppfordret i april 1933 medlemmene i organisasjonen til å fortsette aktiviteten og formulerte et program for den nærmeste fremtiden. Det fikk følger: Han ble av nazistene stemplet som «politisk upålitelig», og fikk i 1937 vite at han ikke ville kunne få ta den andre juridiske statseksamen dersom ikke stempelet som politisk upålitelig ble fjernet. Dermed var alle karrieremuligheter sperret. Filbinger søkte våren 1937 om medlemskap i NSDAP, og fikk dermed lov å ta sin eksamen. Han tok den juridiske doktorgrad i 1939. I 1940 ble han utskrevet til marinen som vernepliktig og oppnådde i 1943 graden oversersjant. Kort før han ble befordret til løytnant ble han kommandert til militærjustisvesenet som marinedommer. Han skrev siden at dette skjedde mot hans vilje, og at han to ganger hadde søkt seg til ubåtstaben. Filbinger var på samme tid del av den såkalte Freiburg-sirkelen, en gruppe katolske intellektuelle rundt redaktøren Karl Färber. Han deltok også på møter med den antinazistiske forfatteren Reinhold Schneider. Uten at han var klar over det anbefalte to av konspiratorene bak 20. juli-attentatet, Karl Sack og Berthold Schenk von Stauffenberg, at Filbinger skulle gis en stilling i regjeringsapparatet etter et vellykket kupp. Sack og Stauffenberg mente de kunne stole på Filbingers «prinsipielle antinazistiske holdning og lojalitet». Filbinger var fra 1934 til 1937 også medlem av SA og fra 1933 til 1936 medlem av Det nasjonalsosialistiske tyske studentforbundet, men var et inaktivt medlem i begge disse organisasjonene. Filbinger havnet på slutten av krigen i britisk krigsfangenskap i Norge.