સરદાર પટેલને સમાજવાદ પ્રત્યે પણ એટલી જ ચીડ હતી.૧૯૩૪માં આચાર્ય નરેન્દ્ર દેવ અને જયપ્રકાશ નારાયણ બંનેએ મળીને ‘અખિલ ભારતીય કોંગ્રેશ સોશ્યાલિસ્ટ પાર્ટી’નું નવું માળખું તૈયાર કર્યું હતું.ત્યારે સરદારે આ સમાજવાદીઓને આડે હાથે લીધા હતાં. સરદાર નીવેદન આપતા કહ્યું હતું કે,’આ પાર્ટીનું બધું જ્ઞાન પુસ્તક પંડીતોને આધારિત છે.પ્રજા અને દેશની સમસ્યા ઉકેલવાનો વ્યવ્હારિક અભિગમ આવા લોકોની સમજ બહારનો વિષય છે