Rahja työskenteli Pietarissa sorvarina, rautateillä lämmittäjänä sekä työnjohtajana Lanskajan lentokonetehtaalla. Vuonna 1903 hän liittyi veljensä Jukan tavoin Venäjän sosialidemokraattiseen työväenpuolueeseen (VSdTP), josta Rahja myöhemmin siirtyi 1912 perustettuun bolševikkipuolueeseen. Hän tutustui Leniniin, jota yhdessä Hugo Jalavan kanssa auttoi vuoden 1917 maaliskuun vallankumouksen jälkeen pakenemaan Suomeen. Hieman ennen lokakuun vallanlumouksen alkua hän avusti Leniniä palaamaan Venäjälle. Pietarin kadut tuntenut Rahja saattoi Leniniä esimerkiksi tämän matkalla Smolnaan, jossa 7. marraskuuta tehtiin lokakuun vallankumouksen aloittamista koskevat päätökset. Vallankumouksen jälkeen marraskuussa 1917 Rahja valittiin Pietarin suomalaisen punakaartin esikuntaan ja samalla hänet siirrettiin Suomeen bolševikkihallituksen Suomen komissaarin apulaiseksi.