स्वतंत्रता प्राप्ति के समय भारतीय नागरिक सेवाओं (आईसीएस) में दक्षिण भारतीयों का बोलबाला था। दक्षिणात्य अधिकारियों की नौकरशाही इस कदर हावी थी कि अंग्रेजों के राज्य में यह कहावत चल पड़ी थी कि देहली इज रूल्ड आईदर बाई मद्रासी और बाई चपरासी। भारत की स्वतंत्रता के समय यह नौकरशाही बहुत काम आई। इसने आगे बढ़कर स्वेच्छा से अपनी सेवाएं, राष्ट्रीय नेताओं को दीं। यही कारण था कि सरदार पटेल का अत्यधिक झुकाव भारतीय नागरिक सेवाओं के अधिकारियों की तरफ रहता था।
भारत की आजादी के समय राजपूताना के चारों बड़े राज्यों के प्रधानमंत्री भी दक्षिण भारतीय थे। वे देश की राजनीति में एक शक्तिशाली समूह के रूप में कार्य करने में सक्षम रहे। उदयपुर में सर टी. विजयराघवाचारी, जयपुर में सर वी. टी. कृष्णामाचारी, जोधपुर में सी. एस. वेंकटाचार एवं बीकानेर में सरदार के. एम. पनिक्कर दीवान के पद पर कार्यरत थे। वे चारों ही अच्छे मित्र थे
तथा उन्हें एक दूसरे का विश्वास प्राप्त था इसलिये उन्होंने निकट संगति के साथ कार्य किया और राजपूताना के इन चारों देशी राज्यों ने भारत की राजनीति में सम्मिलित प्रभाव बनाया। राज्यों के भारत में विलय तथा बाद में राजस्थान में सम्मिलन में भी इन दक्षिणात्य प्रधानमंत्रियों की भूमिका प्रभावी एवं सकारात्मक रही। सर वी. टी. कृष्णामाचारी (जयपुर), सरदार के. एम. पनिक्कर (बीकानेर), एम. ए. श्रीनिवासन (ग्वालियर), सर बी. एल. मित्रा (बड़ौदा) एवं सी. एस. वेंकटाचार (जोधपुर) ने इस महान उद्देश्य के लिये दोनों पक्षों को एक साथ लाने तथा देश को बलकान प्रांतों की तरह बिखरने से बचाने के लिये कठोर परिश्रम से कार्य किया।
उनके महान प्रयासों के बिना, 3 जून 1947 को माउण्टबेटन द्वारा भारत को स्वतंत्रता दिये जाने की घोषणा करने के बाद से लेकर 15 अगस्त 1947 तक की मात्र 11 सप्ताह की अवधि में इस कार्य को पूरा नहीं किया जा सकता था।
लंदन से बैरिस्टरी करने के कारण तथा अपने व्यक्तित्व की विलक्षणता के कारण सरदार पटेल इन अधिकारियों के अनुभव और ज्ञान का लाभ उठाने में समर्थ थे। यद्यपि भारत के प्रथम प्रधानमंत्री जवाहरलाल नेहरू का मानना था कि इस सेवा के अधिकारियों में अहंकार की मात्रा अधिक है जो कि प्रजातंत्र के लिये अनुकूल नहीं है। भारत की गरीब जनता के उत्थान के लिये विनम्र सेवकों की आवश्यकता है न कि अहंकारी कठोर अधिकारियों की।
इसलिये आजादी के बाद नेहरू ने चाहा कि इन सेवाओं को समाप्त कर दिया जाये किंतु सरदार पटेल ने इन अधिकारियों की आवश्यकता को समझते हुए उन्हें बनाये रखने एवं उनका भारतीयकरण करने का पक्ष लिया।
संसद में चली लम्बी बहस के बाद अंत में पटेल की ही जीत हुई। इस प्रकार गृहमंत्री के नाते उन्होंने भारतीय नागरिक सेवाओं (इण्डियन सिविल सर्विसेज) का भारतीयकरण करके उन्हें भारतीय प्रशासनिक सेवा में बदल दिया तथा अंग्रेजों की सेवा करने वाले काले साहबों को राजभक्ति से देशभक्ति की ओर मोड़ दिया। यदि सरदार पटेल कुछ वर्ष और जीवित रहते तो भारतीय नौकरशाही का पूर्ण कायाकल्प हो जाता।
