Cuando Alemania invadió Dinamarca, en la Segunda Guerra Mundial, Borge estaba dando un concierto en Suecia, y pudo escapar a Finlandia.