Chepchumba aloitti kansainvälisen urheilu-uransa vuonna 1995 New Yorkin maratonilla, jolla hän sijoittui neljänneksi. Seuraavana vuonna hän oli juoksun kolmas ja juoksi Lontoon maratonin toiseksi. Hän osallistui myös Atlantan olympialaisten maratonille, mutta ei sijoittunut mitalisijoille. 1997 hän otti ensimmäiset suurten maratonien voittonsa voittamalla Lontoon ja Tokion maratonit. 1998 hän voitti Chicagon maratonin ja sijoittui Lontoon maratonilla kolmanneksi. Vuonna 1999 hän voitti Chicagon ja Lontoon maratonit ja sijoittui MM-kisoissa viidennelle sijalle.