जब सितम्बर 1947 में पाकिस्तान ने काश्मीर पर आक्रमण किया तो सरदार पटेल ने तत्काल सेनाएं भेजकर काश्मीर को बचाने की इच्छा व्यक्त की किंतु जवाहरलाल नेहरू और माउण्टबेटन ने पटेल की इस इच्छा का यह कहकर विरोध किया कि जब तक काश्मीर का राजा भारत में मिलने की इच्छा व्यक्त न करे तब तक भारतीय सेना को काश्मीर में न भेजा जाये। इस पर पटेल ने श्रीनगर तथा बारामूला दर्रे को बचाने का प्रयास किया।
पटेल ने रक्षामंत्री बलदेवसिंह को विश्वास में लेकर भारतीय सुरक्षा दलों को काश्मीर की सीमा पर भारतीय क्षेत्रों में इस प्रकार नियोजित किया जिससे उन्हें तत्काल युद्ध क्षेत्र में भेजा जा सके। उन्होंने श्रीनगर से पठानकोट तक सड़क बनाने का भी कार्य करवाया।
सरदार पटेल इस मामले को संयुक्त राष्ट्रसंघ में ले जाने के पक्ष में नहीं थे परन्तु माउण्टबेटन की सलाह पर पं. नेहरू इस मामले को संयुक्त राष्ट्र संघ में ले गये। 1 जनवरी 1948 को भारत ने सुरक्षा परिषद् में शिकायत की कि भारत के एक अंग कश्मीर पर सशस्त्र कबाइलियों ने आक्रमण कर दिया है और पाकिस्तान प्रत्यक्ष एवं अप्रत्यक्ष, दोनों तरीकों से उन्हें सहायता दे रहा है।
उनके आक्रमण से अन्तर्राष्ट्रीय शान्ति एवं व्यवस्था को खतरा उत्पन्न हो गया है। अतः पाकिस्तान को अपनी सेना वापस बुलाने तथा कबाइलियों को सैनिक सहायता न देने को कहा जाये और पाकिस्तान की इस कार्यवाही को भारत पर आक्रमण माना जाये।
15 जनवरी 1948 को पाकिस्तान ने भारत के आरोपों को अस्वीकार कर दिया और भारत पर बदनीयती का आरोप लगाते हुए कहा कि जम्मू-कश्मीर का भारत में विलय असंवैधानिक है और इसे मान्य नहीं किया जा सकता। सुरक्षा परिषद् ने इस समस्या के समाधान के लिए पांच राष्ट्रों की एक समिति गठित की और इस समिति को मौके पर स्थिति का अवलोकन करके समझौता कराने को कहा।
संयुक्त राष्ट्र समिति ने कश्मीर आकर मौके का निरीक्षण किया और 13 अगस्त 1948 को दोनों पक्षों से युद्ध बन्द करने और समझौता करने हेतु कई सुझाव दिये जिन पर दोनों पक्षों के बीच लम्बी वार्त्ता हुई। अंत में 1 जनवरी 1949 को दोनों पक्ष युद्ध-विराम के लिए सहमत हो गये। यह भी तय किया गया कि अन्तिम फैसला जनमत-संग्रह के माध्यम से किया जायेगा। इसके लिए एक अमरीकी नागरिक चेस्टर निमित्ज को प्रशासक नियुक्त किया गया परन्तु पाकिस्तान ने समझौते की शर्तों का पालन नहीं किया और जनमत-संग्रह नहीं हो पाया।
निमित्ज ने अपने पद से त्यागपत्र दे दिया। काश्मीर की समस्या को यूएनओ में ले जाकर बुरी तरह उलझा दिया गया। इसके लिये सरदार पटेल जवाहरलाल नेहरू से नाराज हो गये।
आगे चलकर ई.1965 में पाकिस्तान और भारत के बीच काश्मीर को लेकर एक बार पुनः युद्ध हुआ तथा पाकिस्तान ने काश्मीर का बहुत बड़ा भू-भाग दबा लिया। काश्मीर का बहुत बड़ा भू-भाग आज भी पाकिस्तान के कब्जे में है।
