આ કારણે જ એમનો કોંગ્રેસથી મોહ ભંગ થયો અને એમણે કોંગ્રેસ છોડીને મોરારજી દેસાઈ સાથે સ્વતંત્ર પાર્ટી બનાવી લીધી, જો કે બાદમાં તેમની કોંગ્રેસમાં ફરી વાપસી થઈ, તેઓ 1964થી લઈને 1970 સુધી રાજ્યસભાના સભ્ય રહ્યાં.