1939 erschien durch die Vermittlung von Alfred Margul-Sperber ihr erster Gedichtband "Der Regenbogen", der zwar von der Kritik gelobt wurde, aber beim Publikum durchfiel. Von Freunden in den USA gedrängt, wegen der bedrohlichen politischen Situation in Czernowitz nach New York zurückzukehren, reiste sie 1939 erneut in die USA, kehrte jedoch noch im selben Jahr nach Czernowitz zurück, um ihre schwer erkrankte Mutter zu pflegen. In der Folge des Hitler-Stalin-Pakts von 1939 besetzten im Juni 1940 sowjetische Truppen Czernowitz und die nördliche Bukowina. Ausländer wurde als angebliche US-Spionin vom sowjetischen Inlandsgeheimdienst NKWD verhaftet und nach viermonatiger Haft wieder aus dem Gefängnis entlassen. Sie arbeitete nun als Krankenschwester in einer Augenklinik. Nach dem Überfall auf die Sowjetunion besetzten die mit Deutschland verbündeten rumänischen Truppen unter Marschall Ion Antonescu Anfang Juli 1941 Czernowitz. Auch Rumänen verfolgten und ermordeten Juden. Rose Ausländer wurde ins Ghetto der Stadt gesperrt, wo sie Paul Celan kennenlernte. Sie durfte die Stadt auch nach der Auflösung des Ghettos nicht verlassen, entging jedoch Zwangsarbeit und Deportation und überlebte in einem Kellerversteck.