Der Offensivspieler spielte bisher 50 Mal für die färöische Nationalmannschaft und erzielte dabei vier Tore. Sein Debüt gab er gemeinsam mit Tór-Ingar Akselsen am 6. September 2003 im Qualifikationsspiel zur EM 2004 gegen Schottland. Das Spiel in Glasgow endete 1:3, Holst wurde in der 84. Minute für Jákup á Borg eingewechselt. Seine ersten beiden Länderspieltore konnte er am 4. Juni 2008 gegen Estland beim Freundschaftsspiel in Tallinn erzielen. Das Spiel endete 3:4. Zum letzten Einsatz kam er am 11. Oktober 2015 im EM-Qualifikationsspiel in Tórshavn, welches mit 0:3 gegen Rumänien verloren wurde. Holst wurde hierbei in der 69. Minute für Árni Frederiksberg beim Stand von 0:2 ausgewechselt.