Jakob Kaiser flyttet til Vest-Berlin og fortsatte sitt arbeid i CDU. Han gikk inn for et blokkfritt Tyskland og sto i ledelsen for CDUs sosialpolitikk. Han var leder av Christlich-Demokratische Arbeitnehmerschaft fra 1949 til 1958. Ved valget til forbundsdagen i 1953 var han den eneste toppolitiker i CDU som gikk inn for en storkoalisjon med SPD.