Whyte fikk sin landslagsdebut for i en kamp mot i oktober 1987. Han ble tatt ut i troppen til EM i fotball 1992 av landslagstrener Andy Roxburgh og siden i troppen til EM i fotball 1996 av landslagstrener Craig Brown, men satt på reservebenken i begge mesterskapene. Han ble også tatt ut i troppen til VM i fotball 1998, men fikk heller ikke der en eneste kamp og var henvist til reservebenken. Whyte fikk totalt 12 landskamper for Skottland frem til 1999.