ત્યારબાદ તેમણે ઇન્ડિયન નેશનલ કોંગ્રેસનું નેતૃત્વ પણ કર્યું અને બળવા તથા રાજકીય ઘટનાઓમાં આગેવાની કરી. તેમણે ૧૯૩૪ અને ૧૯૩૭ની ચૂંટણીમાં પાર્ટીની સંગઠિત કરી અને તેમણે ભારત છોડો આંદોલનમાં આગળ પડતો ભાગ ભજવ્યો હતો. ભારતના પહેલા ગૃહમંત્રી અને ઉપપ્રધાનમંત્રી તરીકે, સરદાર વલ્લભભાઈ પટેલે પંજાબ અને દિલ્હીના નિરાશ્રિતો માટે સહાયનું આયોજન કર્યું હતું અને દેશભરમાં શાંતિની પુન:સ્થાપના માટેના પ્રયત્નોનું નેતૃત્વ કર્યું હતું.