I november 1944 var Holst involvert i en sak med ulovlig våpenhandel, og fikk en advarsel fra det svenske sikkerhetspolitiet Säpo. I samme tidsrom var Holst også nevnt av Säpo i forbindelse med en spionasjesak hvor den norske etterretningsmannen Finn Jacobsen var involvert. Holst kunne imidlertid ikke forhøres da han på det tidspunkt hadde diplomatisk status. Finn Jacobsen arbeidet for den britiske etterretningstjenesten SIS (vanligvis kjent som MI6) og samarbeidet med Holst om å skaffe britene informasjon om Norge. Det skjedde på siden av den norske legasjonen, som SIS ikke stolte fullt på. Holst (som også var agent for SIS) og Jacobsen hadde felles føringsoffiser hos SIS, John Thomas Whistondale (1910–1993). Holst var aktivist og hadde sannsynligvis sympati med de aksjonsinnstilte gruppene i motstandskampen, som 2A og Osvald-gruppen og det såkalte Idrettskontoret (senere Sambandskontoret) ved legasjonen.