Han begynte på sin politiske karriere i India som medlem av den indiske utenrikstjenesten under administrasjonen til Jawaharlal Nehru. Han tjente også som Indias ambassadør i Japan, Storbritannia, Thailand, Tyrkia, Kina og USA og ble beskrevet av Nehru som «den beste diplomaten i landet». Han ble valgt som visepresident 21. august 1992 og gikk videre fra visepresident til å bli president i India i 1997.