Rufai edusti Nigerian maajoukkuetta muun muassa MM-kisoissa 1994 ja 1998, Maanosaliittojen cupissa 1995 ja Nigerian voittamissa Afrikan-mestaruuskisoissa 1994.