1934年以後，日本不斷借著日德親善的機會，向德國要求召回其駐華軍事顧問。實際上，德國在華軍事顧問人數並不多，前後11年中來華服務的德國軍官不過132名。
人數最多時為1933年的79人，以後人數逐年遞減，到1937年中日戰爭全麵爆發時僅有39人。
以當時中國幅員之廣，軍隊數目之大，30多名軍事顧問所能發揮的影響力應當不至於造成對日本的威脅。
1、德國顧問團為何成為日本眼中釘？
但日本基於以下考慮，不斷地向德國施加壓力，要求其撤回軍事顧問：
（一）軍事顧問與德國軍火銷售來華有著密切的關係。日本希望能切斷中國的武器供應，自然希望德國能召回其軍事顧問；
（二）日本也希望能通過向德國施壓以達到其他政治目的，例如德國率先承認“滿洲國”。
因為日本從1934年“滿洲國”成立伊始，就希望有一兩個主要國家能率先承認“滿洲國”，以便對其他國家有示範效果。英美兩國已經明白表示不承認原則，其他國家隻有抱著觀望的態度，因而日本寄希望於拉攏德國。德國軍事顧問問題成了日本打壓德國的殺手鐧。
1934年4月17日，日本外務省情報部長天羽英二發表聲明，反對列強介入中國事務，將矛頭指向德國軍事顧問：
“以軍用飛機供給中國，在中國建造飛機場，及派遣軍事訓練官或軍事顧問前往中國…則顯然可以離間中日與他國間之友好關係，而擾亂東亞之和平與秩序，凡此舉動，日本將反對之。”
1937年盧溝橋事變發生後，日本不斷向德國施壓，要求德國撤出駐華軍事顧問團並不再以武器供應中國。
7月底，日本參謀本部次官首次向德國駐日武官奧特表明了參謀本部的態度：
“德國軍事顧問的工作…激化了日本軍官團的反德情緒…德日之間的政治合作為日本軍方人士所積極推進，德國在華軍事顧問影響了德日之間的政治合作。”
因此日本參謀本部“不失友好但是絕對嚴肅地請求德國通過友好姿態改善日本軍官的反德情緒”。
與此同時，日本駐德武官大島浩造訪德國國防部，希望在華“軍事顧問不參加任何積極的軍事行為”。
7月28日，魏茨澤克通知狄克遜，德國政府早就對在華軍事顧問做出相關的指示並予重申，有關細節已經通報日本大使武者小路。
隨著情勢的不斷惡化，德國召回在華軍事顧問似乎已勢在必行。但是，國際軍火市場的競爭相當激烈。德國軍火在華所以能夠找到這麽大的市場，與德國軍事顧問的存在有密切的關聯。
法肯豪森就曾指出：
“絕不要忘記這裏的競爭十分激烈。我們所以能將訂單交給德國是因為我們過去的無缺失的商譽，是因為我的堅持，也是因為俞（大維）博士願意與我們交往。…我必須指出：交最好的貨，還要比別人便宜。”
所以德國商人明白，如果仍然打算與中國進行軍火貿易，就不可能撤回軍事顧問。因而此時中德雙方的軍事合作，仍充分而且有效地持續進行。
2、淞滬會戰中日本散布有關德國顧問團的謠言？
八一三淞滬戰役的爆發使德國在華軍事顧問的活動再次成為德日間一個棘手的突出問題。
八一三淞滬戰役爆發時，中日雙方都曾打算戰而後和。日本以為，上海是中國最大的經濟、金融中心和貿易港口，占領上海就意味著掐斷了中國的經濟命脈，切斷了中國的對外聯係，能使中國軍隊和國民喪失戰鬥意誌，隻要戰事持續，國民政府終會崩潰，因而企圖速戰速決，在擊敗中國軍隊後，強迫對方訂立城下之盟；國民政府則希望能快速殲滅在滬日軍，封鎖海岸，然後持久抵抗，以待時變，爭取有利條件結束衝突，以戰謀和。
中國政府於8月14日發表《自衛抗戰聲明書》，8月16日下達國家總動員令，調派了經過德國顧問調教的訓練有素的精銳部隊開赴上海作戰，使日本軍隊遭遇了侵華以來的第一次挫折。日本軍隊在八一三淞滬戰役中的暫時失利，再次激化了日本人對德國在華軍事顧問的不滿。
日本開始別有用心地散布有關德國軍事顧問團的謠言。他們稱，由於日本與德國的合作關係越來越密切，德國在華軍事顧問將會受到中國政府的猜忌雲雲。
為此，軍事委員會還於1937年8月19日特別向德國駐華軍事顧問團發表正式聲明，表示：
“自德國軍事顧問存在的第一天起，就表現出無比的工作熱忱，對中國助益甚大。最近敵人展開宣傳，欲造成彼此猜忌。現已通令所有軍事機構、院校及部隊，與軍事顧問更密切合作。”
與此同時，日本參謀本部還故意透露消息說，德國軍事顧問在閘北參與了戰鬥。
一名美國記者發表文章說：
“5名德國將軍和100名德國軍官積極參加了中國抗日的幕後指揮。”
9月22日，德國通訊機構專門地引述《東京新聞》的報導，表示八一三淞滬戰役中德國軍事顧問在閘北參與了戰鬥雲雲，翌年5月，日本《讀賣新聞》又散布中國將以法國軍事顧問取代德國軍事顧問的消息，用意在於造成中國與德國的敵對勢力親善的印象，以分化中德兩國關係，最後達成德國召回駐華軍事顧問及停止將武器銷售來華的目的。
就在此時，中國與蘇聯簽訂了互不侵犯條約。10月，德國政府下令在華軍事顧問不得參與軍事活動，並宣布停止對華輸送軍火。德國開始切實介入中日衝突。
10月22日，日本抓住這一時機，派出一位很有影響力的軍官馬奈木敬信上校，由德國駐日大使館武官奧特陪同抵達上海，與陶德曼磋商和平解決中日衝突的途徑。馬奈木敬信在陶德曼麵前抱怨德國不向日本提供新式軍用飛機，德國在華軍事顧問給日軍在華作戰製造了很多麻煩。
陶德曼反駁說，德國在華軍事顧問沒有危害日本軍隊；再說，與其讓蘇聯顧問指揮中國軍隊抗日，還不如讓德國顧問留在中國。
日本當然明白，希特勒在遠東的政治興趣僅在於利用日本防止布爾什維克的擴張，利用日本牽製蘇聯。於是采取間接攻勢，用德語對德國進行廣播宣傳，試圖把對華侵略說成是打擊共產主義，並強迫德國至少在道義上參與，撤出駐華軍事顧問團，停止以武器供應中國。
3、德國決定撤回顧問團始末
在日本的重重壓力之下，1937年年底，希特勒開始考慮是否將軍事顧問撤走。
11月4日，希特勒預定與德國國防部長柏龍白商討從中國撤回軍事顧問一事。外交部長牛賴特相當支持中國，在11月3日部內會議時，希望能替柏龍白元帥準備一些對中國有利的說法，以便柏龍白與希特勒討論時，先有腹案。
政治司司長麥肯森提議，隻需要向希特勒“提出一個問題：元首（希特勒）希望站在中國那一邊的是法肯豪森還是俄國人？”
結果，這種說法對希特勒造成了很大的影響，德國政府內部普遍認為，中蘇雖然簽訂了互不侵犯條約，蘇聯似乎不會介入中日戰爭，但德國同時必須考慮到，蘇聯可能通過派遣軍事顧問恢複對華影響。
所以，在1938年2月以前，德國的遠東政策仍以調停為主。希望對中日兩國均施加壓力，迫使兩國能夠停戰、和談，以使日本保持對蘇作戰的能力。在陶德曼調停過程中，德國顧問法肯豪森多次說服蔣介石應該這樣做或那樣做，勸說中國接受日本的和談條件。
1938年1月26日，德國駐東京大使狄克遜向德國外交部遞交了一份冗長的報告，要求改變德國對東亞的方針，包括結束調停、中日衝突與德日關係、軍事顧問、軍火輸出、承認偽滿和轉向華北等六個方麵。
在其中，他建議德國應該考慮撤出駐華軍事顧問，理由是：
1.德國軍事顧問的存在，會使得中國沒有和談的意願。
2.德國軍事顧問沒有必要為戰爭成敗負擔責任。
3.廣州地區已有德國軍事顧問泄漏軍事機密的流言。
4.駐華軍事顧問使用俄製武器與德國盟友作戰。
5.德國軍事顧問對於德國經濟利益的作用幾可忽略。
6.不必擔心蘇聯軍事顧問會卷土重來。
總之，狄克遜把審視德日關係的視角建立在兩個前提條件下：
第一，日本成為衝突的贏家；第二，如果不信任英美，中國將會在蘇聯的航道上越行越遠。
恰在此時，發生了兩件事。
其一，1938年2月4日，希特勒突然對德國政府中的兩個重要部門——外交部和國防部中的保守勢力展開清除：國防部長柏龍白被迫辭職，以後不設國防部長，由希特勒本人親自總攬海陸空三軍指揮權；外長牛賴特被罷免而由裏賓特洛甫繼任；德國駐意、日、奧三國大使被召回。德國政府中親日陣營不斷擴大。
其二，2月5日，日本外相廣田正式向狄克遜提出德國召回軍事顧問的要求。
狄克遜立即向外交部匯報，在報告中他刻意強化日本在對抗蘇聯中的態度，試圖打消德國政府對蘇聯援華的擔憂。
他寫道：
“廣田透露，日本在華戰事的發展將不再是大規模進攻，而是逐漸推進；中方至今沒有與日本進行非正式談判的傾向，蘇聯對華軍事援助也沒有增加力度的跡象。廣田認為，日本並不懼怕蘇聯。”
他建議，把德國承認偽滿的時間定在“滿洲帝國”成立五周年紀念日——1938年3月1日。承認偽滿成為裏賓特洛甫上任後德國政策轉向棄華聯日的第一步，下一步，裏賓特洛甫就要著手搬除橫亙在德日親善麵前的障礙——解決德國在華軍事顧問問題。
但他的建議遭到了德國外交部貿易政策司東亞谘詢處處長福斯等人的，連希特勒本人也認為時候未到。
4、希特勒下定決心撤回德國顧問團
1938年4月12日，德國外交部通知中國停止招收軍事學生。
但實際上外交部並未認真執行，中國赴德受訓的海軍學生仍然隨德國軍艦出巡，已受訓的陸軍學生也可繼續完成學業，國防部也表示會暗中協助。這對當時屢遭打擊的中國外交來說，無疑是一種慰藉。
4月12日，狄克遜從東京返回柏林，準備就任德國駐英大使。正是他這次在柏林的逗留促使希特勒做出了召回軍事顧問的決定。
狄克遜向希特勒匯報說，德國軍事顧問若繼續留在中國，則勢必妨害德日關係；新任大使奧特和他本人一直認為，由於德國在華軍事顧問的原因，德日關係變得越來越緊張。
於是，希特勒就順水推舟地委托狄克遜轉達裏賓特洛甫，盡快采取措施，召回在華顧問。當天裏賓特洛甫用一封粗魯的電報實現了希特勒的願望。
希特勒終於把德國遠東政策從對華友好調整為聯日棄華。
希特勒之所以接受狄克遜的建議，是因為他認為召回顧問的時機已經成熟。
1938年3月12日，德軍占領整個奧地利，實現了對奧地利的不流血的征服。兩天後，希特勒簽署命令，宣布奧地利為德國的一個邦。這場兵不血刃的交鋒使納粹主義者得意忘形，在他們眼裏，貧弱的中國幾乎沒有什麽重要的利用價值。
於是，在德日積極靠攏的同時，為了排除一切影響德日關係的障礙，德國在外交上對華態度變得越來越強硬，希特勒不想再有什麽事情影響德日關係。
所以，當日本因台兒莊戰役的失利再次向德國就在華軍事顧問問題發難時，希特勒做出了召回在華軍事顧問的決定。他是想以此再次向日本強調德國的態度，並向英國方麵暗施壓力，以免其在德國繼3月份吞並奧地利之後進攻捷克和蘇台德地區之時設置障礙。
德國在對華外交上的這一舉動，與其加快實施德意日同盟計劃密不可分。4月22日，陶德曼接到指示，向德國顧問轉達德國政府的意願，他們必須中止在中國的工作，立刻返回德國。
5、法肯豪森的態度
4月30日，德國駐華大使陶德曼將法肯豪森總顧問的答複告知德國外交部。法肯豪森告知，“所有顧問都在漢口，且都退居二線在軍校任教官，他們被嚴禁在前線逗留”。
言下之意，德國顧問並沒有參與任何中國軍隊的軍事行動，更不可能與台兒莊戰役有關。
他還陳述了德國在華軍事顧問們應召回國的困難：
（1）德國顧問都與中國政府簽訂了私人雇傭合同，有效期至1939一1940年，不可能單方麵解除。一旦毀約，就意味著中止合同，將會導致法律上的損失賠償；同時還麵臨回國旅費、失業等問題。
（2）對多數顧問來說，放棄終身職業，不啻經濟破產，因為他們中的大多數不可能在德國找到相應的職位，特別是那些在魏瑪共和時期參加過叛亂的人。而且大多數顧問有可能因毀約支付賠償而破產，連回國的路費都沒有。
（3）幾乎所有顧問的家產都在南京，因此必須在國民政府效力，否則其財產得不到安全保障。鑒於中國目前的運輸狀況，由於安全得不到保障，運回德國幾乎不可能。
（4）顧問組織中的女秘書們都是自費來華，也麵臨著無錢回家、失業等同樣的問題。
至於他本人，也不能回去，因為他在希特勒宣布承認偽滿後不久，曾向蔣介石許諾絕不毀約。
他強調：
“德國政府必須承擔顧問及其家屬和秘書的返程費、安家費及其解除合同產生的損失費，同時也必須通過外交渠道來解決，因為顧問們無法找到恰當的理由。”
為避免其他顧問擔憂，法肯豪森封鎖了德國政府準備召回在華軍事顧問的消息。
5月21日，德國政府正式下令，所有受雇於中國的德籍顧問一律返國，理由仍然是為了在中日之間“保持中立”。
當天，陶德曼奉命拜訪中國外長王寵惠，請他把德國政府要求召回顧問的決定轉告蔣介石。德國政府的決定使王寵惠大感意外。
王寵惠綿裏藏針地說，德國政府的做法將會使中國人民失望，從而迫使中國倒向蘇聯一邊。並指出，中日兩國一直還沒有正式宣戰，德國政府沒有必要采取中立原則；與法國、英國和美國的軍事顧問一樣，德國的軍事顧問純粹是以私人的身份在中國政府工作，因此對各自的政府不承擔任何形式的義務。
德國政府改弦更張的東亞政策，讓中國駐德大使程天放憤而辭職，也讓陶德曼大使茫然失措。在與蔣介石的一次會談中，陶德曼曾坦言：
“我們的對華關係已經走到了決定性的轉折點，如果現在在顧問問題和提供軍火問題上采取突然行動…我們在中國的所有建設性努力都將化為烏有。”
6、德國最後的態度
盡管德國外交部再三施壓，中國政府仍保持沉默。於是，德國方麵認為有必要給中國政府立下一個最後答複期限。
6月10日，魏茨澤克致電陶德曼：
“最遲到星期一（6月13日)，我們等待著您關於軍事顧問啟程日期的最後答複。”
6月10日，法肯豪森與蔣介石進行了會談，要求解聘所有德國顧問。蔣介石請求法肯豪森及另外四名顧問必須繼續留在中國待一段時期。法肯豪森未置可否，但他後來在與德國顧問的談話中卻表示，他們不可以拿自己冒險。
6月12日，蔣介石通過德國駐華使館向柏林表示，至少讓法肯豪森留下，或者將之改任為駐華武官，以便繼續為中國服務。
但裏賓特洛甫撤回軍事顧問的決心已定，在收到蔣電報的次日，即6月13日，他下令：
“繼續拖延啟程日期與此間（柏林)所給的指示完全不合。元首（希特勒）本人希望能立即起程（離華)”。
6月14日，德國駐華大使陶德曼再次做出努力，給柏林外交部去電，告知他與蔣介石交涉的結果。
6月19日，陶德曼連續拍發兩份電報給柏林，表示蔣介石通過外交部次長徐謨請他向德國政府提出要求，希望能留下五至六名軍事顧問，繼續完成在華工作，其他人員可以立刻回國。但裏賓特洛甫拒絕，強調中國必須在6月23日以前，同意撤出德國顧問，否則立刻召回德國駐華大使。
6月23日，行政院長孔祥熙為德國顧問舉行了告別宴會，並發表講話向德國顧問表示感謝。
陶德曼又一次被中國打動，為中國說情。
他在致德國外交部的電報中表示：
“很遺憾，我沒能成功。但我認為在一個國家強敵壓境、生死存亡的關鍵時刻，應該表現得寬容一些。”
但是，裏賓特洛甫一點都不想對中國寬容，他於6月24日下令：
1.陶德曼應立即撤至香港，因其妻身體不佳，不適合長途旅行，等到其妻身體康複後，應立即返回德國；
2.所有軍事顧問立即離華赴港；
3.如有拒絕離開中國者，以叛國論處，除將取消國籍外，並沒收其在德國的財產。
為此，陶德曼不得不撤至香港。
7、德國顧問團的離開
麵對德國政府的最後通牒，蔣介石知道事情已無可挽回，如再堅持，恐對軍事顧問不利，於是同意所有軍事顧問離開中國。而在此之前，早在4月份，軍事委員會就已經有所準備，在軍事顧問撤離中國前，授予每一位顧問勳章或獎章，以表彰他們的對華貢獻。
行政院也特別安排將他們曆年的積蓄換成適當的貨幣，以便攜帶。
此時內陸對外交通在日本人的不斷轟炸下，幾近中斷。中國政府特別安排一列九節車廂的火車，便於顧問們攜帶行李。又特別通過外交途徑，通知日本，不可攻擊該列火車，並將車身塗滿國社黨標記，以便識別。
7月5日，法肯豪森率領29名德國軍事顧問從武昌起程，經粵漢鐵路前往香港，與陶德曼會合。臨行前，德國顧問們依依不舍，他們紛紛向中方表示，絕不會把他們所知的中國軍事情報透露給日本，並祝中國的抗戰能夠取得最後的勝利。
他們的這種心情是發自內心的，後來的事實也證明，這些顧問們的確是對中國懷有友好感情的，他們沒有出賣中國，他們與中方的友誼一直持續到戰後。
7月8日，德國顧問們抵達九龍。其中部分人隨即與陶德曼搭船返國，部分人則停留香港，德國外交部對他們的行蹤十分注意，生怕有些人會潛返中國。
8、德國的取舍與得失
縱觀德國圍繞軍事顧問問題與中國和日本交涉的過程，不難看出德國一直以維護本國利益為最大原則。
中日戰爭爆發之初，臥薪嚐膽的德國最初不想得罪中國：武器照樣賣，軍事物資照樣輸送，隻要給錢就行。因為此時它迫切需要中國的戰略物資和外匯。而要保證物資和外匯的正常獲取，就必須讓軍事顧問留在中國以保駕護航。但隨著中日戰爭的擴大，德國必須要在遠東兩國中做出抉擇。
對德國來說，中國和日本，一個是貿易搭檔，一個是戰略盟友，魚與熊掌，取舍兩難。而希特勒東亞政策的第一個目標鎖定了德國在華經濟利益，第二個目標則是通過日本把蘇聯紅軍的主力牽製在東亞，同時與日本聯手對蘇聯形成夾攻之勢。
隨著德國國內的法西斯化，第二個目標逐漸占據了上風。
德國為求日本盡快結束在中國的戰事，抽出足夠的兵力共同對付蘇聯，在德國軍事顧問團問題上，也采取了兩個階段的做法。
第一階段（1937年10月至1938年2月)希望對中日兩國均施加壓力，迫使兩國能夠停戰、和談，以使日本保持對蘇作戰的能力。
《中蘇互不侵犯條約》簽訂後，德國擔心蘇聯軍事顧問會取而代之，從而失去德國對中國的影響力，並進一步危害德國的在華經濟利益，所以決定不理睬日本的要求，讓德國軍事顧問繼續留在中國，但三令五申其不得參與中國的具體作戰行動。
第二階段(1938年2月至1938年7月)，當所有調停努力都失敗後，德國計劃放棄中國，自中國撤出軍事顧問並切斷中國的武器供應，希望能借此迫使中國與日本和談。
德國撤走軍事顧問之舉，對蔣介石的打擊是沉重的。
國民黨軍隊對德國太過倚重。蔣介石自1927年與蘇聯斷交後，就把目光瞄準了德國這個在第一次世界大戰廢墟上崛起的西歐軍事強國。十餘年間，他不僅從德國得到了大批的槍支彈藥、軍援物資，還直接引進了德國的軍事人才和戰爭思想。平定軍閥，統一天下，有德國軍事顧問的功勞；“圍剿”蘇區，瘋狂剿共，蔣介石更是采納了德國人出的主意；中國的國防設施，也大都是德國人的傑作。
在武漢會戰即將開始時的節骨眼上，如果德國顧問撤走，不但意味著戰場指揮、協調上的損失，而且對國民黨軍隊士氣的影響簡直是致命性的。要知道，此時的中國正彌漫著恐日氣氛。
蔣介石又一次忍氣吞聲，滿足了德國的要求，希望能夠挽回德國對中國的友誼。但是中德友誼不再，陶德曼再也沒有回到中國續任，中德關係苟延殘喘至1941年7月2日徹底斷交。
德國召回軍事顧問，也並未給德國帶來預想的經濟效益和政治效益。德國未能在德日“華北經濟合作”利益分配中撈到任何好處，日本也未能如德所願出兵蘇聯。
德國召回軍事顧問之舉，真可謂是典型的“損人不利己”之舉。
