Bergholtz ha giocato 12 partite con la Nazionale olandese, senza mai segnare un gol; l'esordio avviene il 30 aprile 1961, nelle qualificazioni alla Coppa del Mondo 1962 contro l'Ungheria (0-3). La partita d'addio alla Nazionale viene giocata sei anni più tardi, il 10 maggio 1967, sempre contro l'Ungheria (1-2), questa volta il match era valevole per le qualificazioni agli Europei 1968.