独立社会民主党因是否加入共产国际问题而分裂的时候，台尔曼站在了亲共产主义派的一边，后者于1920年11月与德国共产党合并。当年12月台尔曼被选入德国共产党中央委员会。1921年3月由于所从事的政治活动，他被从其工作的职业介绍所开除。当年夏天台尔曼作为德国共产党代表参加了在莫斯科举行的共产国际第三次大会并于其间会见了列宁。1922年6月18日他的住所被暗杀者袭击。右翼民族主义组织"Consul"成员向其一楼的公寓投掷了一枚手榴弹。台尔曼的妻子和女儿没有受伤，其本人在袭击稍后才回到家中。台尔曼参加并帮助组织