1953年7月，《朝鮮停戰協定》正式簽署。這場曆時兩年零九個月，挽救了朝鮮、給美國長了教訓的戰爭，終於結束了。
但協定簽署並不代表朝鮮問題的解決。就在協定簽署後兩個月，美國與韓國簽訂了《美韓共同防禦條約》，繼續在韓國駐軍。在次年的日內瓦會議上，美國也沒有表現出任何誠意，會議也因此沒有形成任何關於外國軍隊從朝鮮撤出的決議。
可以說，停戰協定簽署後，朝鮮危機並沒有解除，這時候誌願軍繼續駐紮在朝鮮是有必要的，畢竟美國也沒有撤軍。
即便如此，從1954年9月開始，中國為表明力爭實現朝鮮半島和平的態度，開始主動撤回一部分軍隊。一年之內，中國陸續公開撤出了19個師，秘密撤出了炮兵、公安、鐵道共20餘個師。撤離完成後，中國在朝鮮的兵力隻剩下44萬。
1956年底，朝鮮政府向中國政府發出備忘錄，提出中國從朝鮮撤軍，朝鮮問題應由聯合國負責協調解決。中方經過研究，認為形勢已經緩和，繼續在朝鮮保留軍隊已沒有太大必要，基本同意了朝鮮全麵撤軍的建議。
1957年底，毛主席訪蘇，金日成也正在訪蘇，二人在莫斯科進行了會談，毛主席表示，從當前形勢看，中國人民誌願軍在朝鮮的使命已基本完成，可以全麵撤出朝鮮。
金日成回國後，可能是怕中國變卦，接連兩次向中國致電，一再表示朝鮮勞動黨中央讚同誌願軍撤回中國，並用很短的時間製定出了具體的撤軍方案。
次年2月，朝鮮政府發表公開聲明，建議在朝鮮半島的一切外國軍隊，包括美國軍隊和中國軍隊，全部撤出。僅僅兩天後，中國政府就發表聲明，表示完全讚同並全力支持朝鮮政府這一倡議。
2月14日，周總理帶隊，陳毅、張聞天、粟裕組成的代表團抵達平壤，就撤軍問題與朝鮮進行磋商。雙方於2月19日簽署聯合聲明，中國將於1958年年底前全部撤出朝鮮，共分兩批，其中第一批將在1958年4月30日前撤出。
聯合聲明中提到，美軍和“聯合國軍”如果對朝鮮半島和平有絲毫的誠意，就應該同樣撤回全部軍隊。
聯合聲明還告誡韓國，不要把中朝的善意舉動當做軟弱，對於朝鮮今後可能遭受的侵略，中國絕對不會置之不理。
中國言出必行，從1958年3月15日到10月26日，中國人民誌願軍按照“先前沿，再西海岸，後中間”的方針分三批撤軍。之所以這樣，目的在於觀察美韓的反應，一旦出現異常，中間的部隊可以立刻頂上。
撤退時，除了武器裝備和個人物品，誌願軍將其餘所有物品全部無償留給了朝鮮人民軍。
至此，中國人民誌願軍基本上全部撤出朝鮮。之所以說“基本上”，是因為還有人數很少的誌願軍駐開城聯絡處沒有撤回。
說起這個聯絡處，也是幾經變化。停戰協定簽署後，雙方成立了軍事停戰委員會，簡稱軍停會，主要負責監督停戰協定的實施情況。軍停會由十人組成，其中五人由中朝共同指定，另外五人由“聯合國軍”指定。
那麽問題來了，軍停會中的誌願軍代表團撤不撤？為解決這一問題，1954年製定了《關於調整軍停會朝中代表團的關係及縮減誌願軍代表團機構的方案》，軍停會一切事務由朝鮮政府主持辦理，軍停會誌願軍代表團縮減為誌願軍駐開城聯絡處，但依舊駐守朝鮮，主要負責善後事宜。
事情在1991年起了變化。美國單方麵任命韓國人為軍停會“聯合國軍”一方首席代表，朝鮮立即表示不予認可，並立即停止了與軍停會的來往。軍停會本就是一個協調雙方分歧的機構，一方不予認可後，自然就會癱瘓。
1994年4月，朝鮮外交部發布聲明，從板門店撤出軍停會朝鮮代表團。
應朝鮮請求，中國於1994年12月15日召回駐板門店的軍停會中國人民誌願軍代表團。至此，中國人民誌願軍全部撤出朝鮮。
