मीडिया ने पटेल पर आरोप लगाया कि उनका गृह मंत्रालय गांधी की रक्षा नहीं कर पाया। इससे दुःखी होकर पटेल ने सरकार से त्यागपत्र दे दिया। इस पर नेहरू ने पटेल का त्यागपत्र यह कहते हुए अस्वीकार कर दिया कि नेहरू और पटेल तीस साल से कांग्रेस में एक साथ एक उद्देश्य के लिये काम करते रहे हैं और गांधी की मृत्यु के बाद उन दोनों के लिये लड़ना अच्छी बात नहीं होगी। पटेल का त्यागपत्र तो टल गया किंतु उसके बाद भी राजनैतिक विषयों पर नेहरू और पटेल के बीच मतभेद बने रहे। नेहरू द्वारा अपनाई गई तीन नीतियों- 1948 में काश्मीर मुद्दे को यूनाइटेड नेशन्स में ले जाने, 1950 में तिब्बत को चीन के विरुद्ध सहायता न देने तथा गोआ से पुर्तगालियों को निकालने हेतु सैनिक कार्यवाही न किये जाने पर पटेल एवं नेहरू के बीच तीव्र मतभेद, पटेल की मृत्यु तक बने रहे। जब नेहरू ने काश्मीर मुद्दे पर पटेल तथा गृह मंत्रालय के अधिकारियों को किनारे लगाने का प्रयास किया तो पटेल ने जोरदार प्रतिवाद किया।
1950 में नेहरू ने डॉ. राजेन्द्र प्रसाद पर दबाव बनाया कि वे राजगोपालाचारी के पक्ष में, राष्ट्रपति पद हेतु दिया गया अपना नामांकन वापस ले लें। नेहरू की इस कार्यवाही ने कांग्रेसी नेताओं को बुरी तरह नाराज कर दिया। कांग्रेसियों को लगा कि नेहरू, कांग्रेस पर अपनी इच्छा थोपने का प्रयास कर रहे हैं। नेहरू ने पटेल से कहा कि वे राजगोपालाचारी को राष्ट्रपति बनवाने में नेहरू की सहायता करें। इस पर पटेल ने पार्टी की इच्छा के विरुद्ध कार्य करने से मना कर दिया तथा डॉ. राजेन्द्र प्रसाद को ही भारत का प्रथम राष्ट्रपति बनाया गया। 1950 में नेहरू ने पुरुषोत्तम दास टण्डन कांग्रेस के अध्यक्ष पद के लिये खड़े हुए। टण्डन की छवि एक हिन्दू नेता की थी इसलिये नेहरू ने उनका विरोध किया तथा जीवराम कृपलानी को कांग्रेस का अध्यक्ष बनाने की अपील करते हुए कहा कि यदि ऐसा नहीं हुआ तो नेहरू त्यागपत्र दे देंगे। पटेल ने नेहरू के दृष्टिकोण का विरोध करते हुए गुजरात में टण्डन को समर्थन देने की घोषणा कर दी। कृपलानी गुजरात के ही रहने वाले थे किंतु उन्हें गुजरात से एक भी वोट नहीं मिला। पटेल का विश्वास था कि नेहरू की इच्छा कांग्रेस के लिये कानून नहीं है किंतु जब टण्डन जीत गये तो नेहरू को समझ में आ गया कि उन्होंने कांग्रेस का पूरा विश्वास खो दिया है। इस पर नेहरू ने अपने पद से त्यागपत्र दे दिया। तब पटेल ने नेहरू को त्यागपत्र देने से मना कर दिया।
