Rufai ha jugado 65 partidos con la Selección de fútbol de Nigeria y ha marcado 1 gol además de jugar el Mundial de fútbol de 1994 y el Mundial de fútbol de 1998 y ganar la Copa Africana de Naciones de 1994.