Nach einem schweren Bombenangriff auf Köln am 31. Mai 1942 wurde das israelitische Asyl geräumt, und seine Bewohner und das Personal wurden in das Sammellager Müngersdorf transportiert. Von dort aus gelang es Erna Rüppel im Juni 1942, zu fliehen und unterzutauchen. Der deutsche Historiker Horst Sassin äußerte dazu: „Sie handelte aus der klaren Erkenntnis heraus, dass sie Mutter und Schwester nicht mehr helfen konnte.“ Die beiden Frauen starben wenig später in Theresienstadt. Zunächst versteckte sich Erna Rüppel bei Freunden in Düsseldorf und später in Solingen bei Johannes Lutze, einem Pfarrer der Bekennenden Kirche, im Keller von dessen Pfarrhaus im Solinger Stadtteil Dorp. Einige Tage soll sie bei der Familie Hillers verborgen worden sein. Durch die Solinger Süßwaren-Unternehmerin Milena Maric, die Kontakte zu jugoslawischen Diplomaten hatte, erhielt Erna Rüppel im Mai 1943 kroatische Dokumente, die auf den Namen "Anna Markus" lauteten, mit Geburtsort Sarajevo. Fehlende Sprachkenntnisse wurden damit erklärt, dass sie in Belgien aufgewachsen sei. Später berichtete sie, sie sei im Mai 1943 auf dem Düsseldorfer Hauptbahnhof von einem Offizier kontrolliert worden, dessen Kinder ihre Patienten gewesen seien; der Mann habe sie erkannt, aber passieren lassen.