સ્વતંત્ર ભારતના પ્રથમ ગૃહમંત્રી તરીકે તેમણે વહીવટી માળખું રચવાના કાર્યની શરૂઆત કરી, જે અત્યારે પણ ચાલુ છે-પછી એ રોજિંદા વહીવટી સંચાલનનો મામલો હોય કે પછી ગરીબ અને વંચિત લોકોનાં હિતોનું રક્ષણ કરવાનો મામલો હોય. . સરદાર પટેલ અનુભવી વહીવટકર્તા હતા.