गोधरा में वकालत की प्रेक्टिस शुरू कर दी। 1902 में इन्होंने वकालत का काम बोरसद स्थानांतरित कर लिया। क्रिमिनल लॉयर के रूप में उनकी यश और कीर्ति चारों ओर फैली, खूब नाम कमाया। अपनी वकालत के दौरान उन्होंने कई बार ऐसे केस लड़े जिसे दूसरे नीरस और हारा हुए मानते थे। उनकी प्रभावशाली वकालत का ही कमाल था कि उनकी प्रसिद्धि दिनों-दिन बढ़ती चली गई। गम्भीर और शालीन पटेल अपने उच्चस्तरीय तौर-तरीकों लिए भी जाने जाते थे। वे अपना कर्तव्य पूरी ईमानदारी, समर्पण व हिम्मत से साथ पूरा करते थे। उनके इन गुणों का साक्षात्कार तब हुआ जब सन् 1909 में वे कोर्ट में केस लड़ रहे थे, उस समय उन्हें अपनी पत्नी की मृत्यु (11 जनवरी 1909) का तार मिला। पढ़कर उन्होंने इस प्रकार पत्र को अपनी जेब में रख लिया जैसे कुछ हुआ ही नहीं। दो घंटे तक बहस कर उन्होंने वह केस जीत लिया। बहस पूर्ण हो जाने के बाद न्यायाधीश व अन्य लोगों को जब यह खबर मिली कि सरदार पटेल की पत्नी का निधन हो गया है तब उन्होंने सरदार पटेल से इस बारे में पूछा तो उन्होंने कहा कि उस समय मैं अपना फर्ज निभा रहा था, जिसका शुल्क मेरे मुवक्किल ने न्याय के लिए मुझे दिया था। मैं उसके साथ अन्याय कैसे कर सकता था। ऐसी कर्तव्यपरायणता और शेर जैसे कलेजे की मिशाल इतिहास में विरले ही मिलती है। इससे बड़ा चरित्र और क्या हो सकता है?