Sivebæk gjorde debut för Danmark i maj 1982 i en vänskapsmatch mot Sverige. Hans enda mål i landslaget kom i en VM-kvalmatch mot Irland i november 1985. John Sivebæk spelade även fyra stora turneringar; EM 1984, VM 1986, EM 1988 samt EM 1992 där Danmark sensationellt vann hela turneringen. I finalen av EM 1992 startade Sivebæk matchen men tvingades utgå efter skada i den 66:e minuten.