Els primers èxits internacionals de John Ngugi arribaren al Campionat del Món de camp a través, on assolí el brillant rècord de quatre títols consecutius entre 1986 i 1989 i cinc en total. Posteriorment es traslladà a la pista, però malgrat guanyar la seva sèrie de 5.000 metres al Campionat del Món d'atletisme de 1987 a Roma, només fou dotzè a la final. En canvi, guanyà la medalla d'or als Jocs Panafricans del mateix any.