I 1864 Johan Furuhjelm overga sine guvernørs plikt til Dmitrij Maksutov som ble den siste Alaskasguvernør. Sommeren 1864 familie Furuhjelm dro til Russland. I 1865-1870 Furuhjelm tjenestegjorde som militærguvernør i Primorskij Kraj. I februar 1871 var han ansatt i sjef av russiske havn på Stillhavet. I denne perioden bidro han meget til utvikling av Vladivostok og Primorskij Kraj, åpnet , flere fyr og skipdokker. I 1872–1874 var han flagmann på Den Russiske Østersjøflåten. I 1874–1876 Johan Furuhjelm var guvernør av byen Taganrog i Sør-Russland hvor han åpnet det første bibliotek. Blant besøkere av biblioteket var den berømte forfatteren Anton Tsjekhov. I 1878–1880 Furuhjelm tjenestegjorde som kommanderende av havnen i Revel, det russiske navnet for Tallinn.