Kemboi vant OL-gull i Athen i 2004 foran sine to landsmenn Brimin Kipruto og Paul Kipsiele Koech. Han løp på 8:05,81, som var årsbestenotering for hans del, og han slo Kipruto med bare 0,2 sekunder. Saif Saeed Shaheen deltok ikke i OL i 2004. Ved IAAF World Athletics Final 2004 kom han på 2.-plass, bak nettopp Shaheen.