1962માં બીજી વખત મુખ્યપ્રધાનપદ સંભાળ્યું એ પછી તુરત જ શરૂ થયેલી યાદવાસ્થળી વચ્ચે જીવરાજભાઈએ એક વર્ષ શાસન સંભાળ્યા બાદ, તત્કાલીન વિપક્ષી નેતા ભાઈકાકાએ ગૃહમાં રજૂ કરેલી અવિશ્ર્વાસની દરખાસ્ત સામે ઝૂકી જઈ જીવરાજભાઈએ 11મી સપ્ટેમ્બર, 1963ના રોજ પદ પરથી રાજીનામું આપી દીધું.