Da han 16. desember 1997 kunngjorde han at han ville si opp som forsvarssjef 31. mars 1998. Fordi dette var samme dato som president Quett Masire hadde planlagt å gå av, førte dette til spekulasjoner om politiske planer for Khama. Da Festus Mogae tok over som president 1. april 1998, ble Khama utnevnt til visepresident. Khama kunne imidlertid ikke sette i gang med vervet umiddelbart, for han var ikke valgt inn i nasjonalforsamlingen. Tidlig i juni 1998 vant han imidlertid et valg i Serowe North overveldende, med 2 986 stemmer mot motkandidatens 86 stemmer. 13. juli begynte han i vervet som visepresident.