Jakob Kaiser var utdannet som bokbinder, tilhørte under Weimarrepublikken Sentrumspartiet og var aktiv i den kristelige fagbevegelsen. Ved valget til Riksdagen i 1933 ble han innvalgt for Sentrumspartiet og representerte dem til november 1933. Han kjempet mot nasjonalsosialistene i deres arbeid med å sammenslå fagbevegelsene. I 1934 sluttet han seg til motstandsbevegelsen og arbeidet sammen med Wilhelm Leuschner og Max Habermann. Han ble i 1938 arrestert av Gestapo under mistanke om forræderi og satt flere måneder i fengsel. Fra 1941 arbeidet han sammen med Carl Friedrich Goerdeler og andre ledere i opposisjonen blant ledende miliært personell. Kaiser var en av lederne i den katolske motstandsbevegelsen Kölnkretsen. Han unnslapp arrestasjonsbølgen etter attentatet 20. juli 1944 og gjemte seg i en kjeller i Babelsberg i Potsdam. Kaisers hustru Therese og hans eldste datter Elisabeth ble fengslet i hans sted (Sippenhaft), i likhet med andre av hans familiemedlemmer.