Neuvosto-Venäjällä Rahja oli alusta asti mukana siellä perustetun SKP:n toiminnassa. Kielitaitonsa ja hyvin suhteidensa ansiosta Rahjan veljesten asema puolueessa oli erittäin vahva. Heitä syytettiin kuitenkin taloudellisista väärinkäytöksistä. Rahjat puolestaan arvostelivat SKP:n johtohahmoja, kuten Otto Wille Kuusista ja Kullervo Mannerta. He olivat poliittisen toiminnan kannalla, kun taas veljekset uskoivat sotilaalliseen toimintaan. Eino Rahjan mielestä puolue oli vain lauma virkamiehiä, kun se olisi pitänyt olla vallankumouksellinen organisaatio. Hänen näkemyksensä mukaan SKP ei onnistuisi Suomessa tekemään vallankumousta, vaan sen käynnistäjäksi tarvittaisiin Suomen ja Neuvostoliiton välinen sota, jonka jälkeen maa vallankumouksen myötä liittyisi Neuvostoliittoon. SKP:ssä erityisesti Rahjan ja Kuusisen välit olivat kireät. Kun Jukka Rahja ammuttiin niin sanotuissa Kuusisen klubin murhissa elokuussa 1920, hän epäili veriteon takana olleen juuri Kuusisen. Tämä puolestaan yritti päästä eroon Rahjasta vuotta myöhemmin pidetyssä SKP:n neljännessä puoluekokouksessa. Kuusinen uhkasi lähteä puolueesta, ellei Rahjaa eroteta keskuskomiteasta, mutta lopulta molemmat jatkoivat SKP:ssä Mannerin puolustettua Rahjaa. Miesten väliset erimielisyydet jatkuivat kuitenkin edelleen ja vuonna 1923 tapahtuneen Leninin kuoleman jälkeen kumpikin taisteli NKP:n johtoon nousseen Stalinin suosiosta.