形势变得严峻起来，开始加大逮捕共产党员的力度，他被迫转入地下。在转入地下后，他依然见到过自己的母亲波尔芭拉，但由于上级指示不能接触任何熟人，他也无法与他的母亲打招唿。另一方面，因为波尔芭拉患有高度近视，且卡达尔在转入地下后改变自己原有的工人穿着，改穿西装革履，并蓄起了很长的胡子，她也未能认出他来。那时因匈牙利共产党的高层领导人全部被害，卡达尔继任匈牙利共产党总书记，为了安全，他只与8个党员保持联络。并整顿领导了被法西斯严重破坏的党组织。1943年，匈牙利共产党曾改名和平党，卡达尔表示反对，他希望改名