Deler av Holsts arbeid for motstandsbevegelsen i Norge var ulovlig i det nøytrale Sverige. Minst én gang ble han arrestert av svensk politi, men ble raskt satt på frifot. Arrestasjonen var knyttet til Holsts mislykkede forsøk på å organisere en kurérrute over Magnor ved hjelp av en lokalkjent svenske og nordmann. Etter andre verdenskrig ble det avdekket at de to var i det tyske militære etterretningstjenesten Abwehrs tjeneste. Holst var flink til å organisere og skaffe utstyr og han hadde mange kontakter. En av dem var den sovjetiske ambassadøren Aleksandra Kollontaj, som han fikk flere pistoler av.