同年，他组成东京朝鲜劳动工同盟，并成为执行委员。翌年，日本发生信浓川事件，这令金天海放弃学业，改为从事社会运动。1926年，他当选旅日朝鲜劳动总册盟的中央执行委员会委员。次年，他成为朝鲜共产党日本分部的中央委员。1928年，他因参与多个工会活动而被反对社会主义和共产主义的日本政府逮捕，并被判入狱6年。出狱后，他加入日本共产党，但在不久后，他又被再收监。1945年，日本投降，二战结束，金天海获释。在他出狱当天，共有2000人夹道迎接。之后，他又继续留在日本，并成为日本共产党的中央委员会会长及在日朝鲜人联盟