Nach Ende seiner Studien ging Rakowski nach Rumänien und kaufte Land in der Umgebung von Mangalia, einer Kleinstadt unweit der Grenze zu Bulgarien. Er lebte als Grundbesitzer und Arzt und gründete die Zeitung "România Muncitoare" (Das werktätige Rumänien) der rumänischen sozialdemokratischen Partei (PSDR), deren Mitbegründer er war. Im Juni 1905 verhandelte er mit den meuternden Matrosen des russischen Linienschiffs "Knjas Potjomkin Tawritscheski" (bekannt auch als Panzerkreuzer Potemkin) das vor der Küste von Constanța ankerte. Die Matrosen erhielten Asyl, während das Schiff zurückgegeben wurde. Als Unterstützer des rumänischen Bauernaufstandes von 1907 wurde er ausgewiesen, vertrat seine Partei auf Sozialistenkongressen in Stuttgart, Kopenhagen und Belgrad und konnte 1912 wieder einreisen. 1913 wohnte Leo Trotzki als russischer Korrespondent für die Balkankriege bei ihm. Er bemühte sich danach um Neutralität Rumäniens im Ersten Weltkrieg und war 1915 Teilnehmer der Zimmerwalder Konferenz. Nach Kriegseintritt Rumäniens wurde er als deutscher Spion inhaftiert (Bulgarien, sein Herkunftsland, stand an der Seite der Zentralmächte), aber nach der Februarrevolution 1917 am 1. Mai von der russischen Garnison in Iași befreit. Rakowski ging nach Russland.