Rjazanov ryhtyi jo kouluvuosinaan vallankumouksellisten narodnikkien kannattajaksi. Hänet erotettiin koulusta ja hän perusti 17-vuotiaana kotikaupungissaan Odessassa sosialistisen piirin, joka kytkeytyi Taisteluliittoon työväenluokan vapauttamiseksi. Hän joutui poliittisen toimintansa vuoksi vankilaan ja sen jälkeen useaksi vuodeksi karkotukseen Kišinjoviin Bessarabiaan. Vuonna 1900 Rjazanov asettui Berliiniin Saksaan, jossa hän johti Borba-nimistä sosialistien ryhmää. Hän kieltäytyi liittymästä Venäjän sosiaalidemokraattiseen työväenpuolueeseen ja oli pitkään aatteellisissa riidoissa sen johtajien kanssa. Hän palasi Venäjälle vuoden 1905 vallankumouksen jälkeen ja tuki työläisten järjestäytymistä, mutta joutui epäonnistuneen kansannousun jälkeen uudelleen vankeuteen. Paettuaan vankilasta vuonna 1907 Rjazanov muutti Lontooseen. Hän saavutti mainetta kirjoittamillaan artikkeleilla ja liittyi lopulta bolševikkien ja menševikkien välissä toimineeseen mežraiontsy-ryhmään. Rjazanov osallistui ensimmäisen maailmansodan aikana Zimmerwaldin kokoukseen.