조선공산당
1925년 전국의 공산, 사회주의자들이 결집, 제1차 조선공산당을 조직하는데 참여하였다. 조선공산당 창당대회 당시 사회를 봤고, 조선공산당 인사부책을 맡았지만 조선공산당 결성 직후, 당내 주도권을 놓고 갈등, 경쟁관계에 있던 김찬, 조봉암, 박헌영, 김단야 등의 화요회계에 세력을 빼앗기고 말았다. 김약수는 화요회파와의 경쟁에서 밀려 그 해 10월 비판받고 당에서 제명당하였다. 곧바로 조선공산당 결성 소식을 접한 일본경찰의 첩보망에 포착, 1차 조선공산당원 검거에 걸려 재판받고 수감, 6년간 옥살이를 했다.