Hyvönen lähti vastoin sisarensa neuvoja etappiteitä Venäjälle 1920. Reitti kulki hiihtäen Hyrynsalmen ja Vuokkiniemen kautta Vienan Kemiin, jossa ensimmäinen yö kului putkassa. Sieltä hän pääsi yhdessä toverinsa Toivo Nylundin kanssa rautateitse Pietariin, jossa joutui keskelle Kronstadtin kapinaa. Hyvönen siirrettiin Suomen rajan läheisyyteen Inkerinmaalle Lempaalanjärven Mäntysaareen, jossa hän sai SKP:n maanalaiseen toimintaan valmentavaa koulutusta emigranttisuomalaisilta. Kouluttajina toimivat hänen karismaattisena pitämänsä Kullervo Manner sekä Lauri Letonmäki, Yrjö Sirola ja Otto Wille Kuusinen. SKP:n koulutuskeskuksessa käytettiin peitenimiä, jotta koulutettavat eivät olisi selvillä edes toistensa oikeasta henkilöllisyydestä. Vuonna 1921 Hyvönen osallistui Pietarissa pidettyyn SKP:n neljänteen edustajakokoukseen.