Etter Jawaharlal Nehrus død i 1964 ble han utpekt av det indiske regjeringsparti Kongresspartiet til å overta posten som Indias statsminister. Han overtok posten den 9. juni 1964, etter at Gulzarilal Nanda hadde fungert et par uker som midlertidig statsminister.