Keino vakte først internasjonal oppmerksomhet da han i 1962 satte ny kenyansk rekord på en engelsk mil. Under OL 1964 i Tokyo løp Keino for Kenya, som deltok i OL for første gang, og kom på femteplass på 5000 meter. Samme år satte han to verdensrekorder: På 3000 meter med tiden 7.39,6, og på 5000 meter med tiden 13.24,2.