Vuonna 1941 Trepper varoitti Moskovaa tietojensa perusteella välittömästä Saksan hyökkäyksen vaarasta. Trepperin onnistui jopa saada tietoonsa hyökkäyksen tarkka päivämäärä. Neuvostoliittoa johtanut Josef Stalin uskoi kuitenkin kyseessä olleen "brittien provokaatio". Saksan hyökkäys Neuvostoliittoon alkoi kuitenkin kesäkuussa 1941. Hyökkäyksen alkamisen jälkeen Trepper johti kaikkiaan seitsemää vakoojaverkostoa Saksan miehittämällä alueella. Sodan kuluessa hän lähetti noin 1 500 radioviestiä Neuvostoliittoon. Trepperin antamilla tiedoilla oli ajoittain ratkaisevakin merkitys Neuvostoliiton taktiikkaan ja strategiaan sodan eri vaiheissa. Marraskuussa 1942 Saksan vastatiedustelupalvelu ja Gestapo pidättivät Trepperin Pariisissa. Pidätetyn Trepperin haluttiin jatkavan toimintaansa ja tietojen lähettämistä Neuvostoliittoon saksalaisten ohjauksessa "Funkspiel"-nimisessä operaatiossa. Trepper suostui yhteistyöhön oman henkensä säästääkseen. Hänen onnistui kuitenkin paljastaa pidätyksensä Neuvostoliitolle salakuljetetulla viestillä. Trepperiä kohdeltiin vankeutensa aikana melko hyvin ja hänen onnistui paeta heinäkuussa 1943. Hän piilotteli Ranskassa sodan loppuun saakka jatkaen samalla yhteydenpitoa Neuvostoliiton kanssa.