Nach dem Augustputsch und dem Verbot der KPdSU und der KPRF 1991 durch Boris Jelzin war Rybkin daraufhin Gründungsmitglied und einer der Vorsitzenden der "Sozialistischen Partei der Werktätigen" (SPdW), die eine gemäßigte Reformpolitik befürwortete. Die SPdW schloss sich im Obersten Sowjet Russlands der Fraktion der "Kommunisten Russlands" an. Rybkin begrüßte zuerst den Versuch der Putschisten, die Sowjetunion zu retten, fühlte sich jedoch später mitschuldig, „weil er nicht gegen den "unvernünftigen und unverantwortlichen Teil" der KP-Führung aufgestanden sei“ (Süddeutsche Zeitung, 17. Januar 1994).