לאחר פלישת הנאצים לפולין ברח שלמה פרל עם אחיו יצחק לחלק הסובייטי של פולין, והצטרף לבית ילדים סובייטי ולארגון הנוער הקומסומול; אחיו המשיך ליעד אחר. עם פלישת גרמניה לברית המועצות בשנת 1941 נמלט, ומאוחר יותר נפל בשבי יחידה של הצבא הגרמני. בזכות שליטתו המוחלטת בשפה הגרמנית הצליח פרל לשכנע את לוכדיו כי שמו למעשה יוזף פרייל (Josef Perjell) וכי הוא אזרח גרמני החי מחוץ לגרמניה. פרל התקבל ליחידה ושימש בה כמתורגמן רוסית-גרמנית. במסגרת תפקידו נטל חלק כמתורגמן בחקירת בנו של סטלין, שהיה קצין בצבא האדום. פרל היה בסכנה מתמדת עקב היותו יהודי נימול, והוא ניסה להימלט במספר הזדמנויות מהצבא הגרמני חזרה לסובייטים, אך ללא הצלחה.