在日本開始戰爭時，日本官員與軍部雖然注意到了中共的抗日熱情，但毫無疑問，國民黨軍隊才是他們對手。
從《大本營陸軍部》一書中可以發現，國民黨中央直係軍隊的戰鬥力，尤其中堅軍官強烈的抗日意識和鬥誌，絕對不容輕視。麵對台兒莊戰役中國軍隊的頑強死守，書中慨歎“屍山血海，非日軍所特有”；1939年底開始的冬季攻勢乃“中國軍攻勢規模之大，鬥誌之旺盛，行動之積極頑強均屬罕見”，是“整個中國事變中陸軍最暗淡的時代”；策應對香港作戰的第二次長沙作戰，因薛嶽的血戰令日軍“部分將士的必勝信念發生了動搖，需要年餘始能恢複”。
相較對重慶軍的周密部署，大本營對中共並不重視，因為與蘇聯的聯係，日軍大本營一直強調的是防共，斬斷可能出現的紅色通道。而早期中共也沒有顯示出強大的戰力，隻有一直與中共纏鬥的華北方麵軍備受困擾，“敵人擅長諜報工作，善於退避、潛伏”，“擊敗重慶軍並不難，而對付采取退避分散戰術的中共軍卻不容易”，顯得不太真實的地道戰讓曾在冀中一帶作戰的加島武中佐感歎“日軍總像是在和鼴鼠作戰一樣”（《華北治安戰》）。
結果到了1938年秋，日軍突然發現“占領了中國大部分主要城市，但是日軍所統治的充其量不過是一些點（城市及其周圍）和線（鐵道和公路幹線），除此之外的地區，到處都遍布抗日據點，中國軍隊展開遊擊戰，給日軍以威脅。”（《日本外交史》）
客觀來講，此時所指中國軍隊包括八路軍與國軍兩部分，日軍並沒有加以區別，在武漢會戰前後，為了保證鐵路的通順實施了肅正。然而他們發現，經過幾期掃蕩，“中共軍擴張勢力的活動很顯著……逐漸蠶食蔣係軍及雜牌軍，急劇地擴大了他們的勢力。”
這很快引起了日軍的關注。1939年3月，日本華北方麵軍匯編的《戰時月報資料》寫道：共產黨軍隊“在正太線南北地區有蠢動的征候。共產軍的群眾工作似乎越作越深，尤其是朱德所在的晉南方麵敵人的工作更為徹底，想得到情報極為困難”。
同年12月，華北方麵軍情報負責人會議又指出：“根據最近情報，共產勢力滲透華北全部地區，就連北京周圍通縣、黃村（大興）等地，也都有組織地滲透於民眾中間。”他們由此認定：“中共勢力對華北治安的肅正工作，是最強硬的敵人。為此，應加緊收集情報，確立排除中共勢力的對策，實為當務之急。”
在這次會上，華北方麵軍參謀長笠原幸雄也承認：“今後華北治安的致命禍患，就是共軍。隻有打破這個立足於軍、政、黨、民的有機結合的抗戰組織，才是現階段治安肅正的根本。”基於這種認識，他主持製定的1940年“肅正計劃”規定：中共“勢力迅速發展壯大，不容忽視。如不及早采取對策，華北將成為中共天下。為此，方麵軍的討伐重點，必須全麵指向共軍”。（《華北治安戰》）
百團大戰中，八路軍攻克淶源縣日軍據點東團堡
盡管如此，在百團大戰前“日軍從未想到中共勢力竟能擴大到如此程度”。華北方麵軍的作戰記錄中，一再以損失、過失、輕率、痛苦、教訓、反省等敘述此戰，甚至提到“保持軍隊威信”，這在《大本營陸軍部》中是絕無僅有的。
此後，華北方麵軍在大本營的支持下對共產黨地區大舉進行肅正作戰，經過兩年激戰，軍隊規模和解放區縮水。但是到了1943年以後，它們又得到了鞏固和發展。1943年5月，山西《新民報》登載的一篇文章亦承認：“一向即以狡黠著稱之共黨軍，彼等確有不可漠視之獨特戰法……其所以幾年仍未全滅者，實不能不歸功於其特有戰法，所謂特殊戰法者，亦即彼等所自覺得意之遊擊戰。”
北平《新民報》於年底指出“解決大東亞戰爭之關鍵之中國事跡之終局，乃在解決中共軍。”因此，日軍大部分時間總把兵力的六、七成都用在同中共的戰鬥上，此時“國民黨軍隊避免同日軍決戰，企圖盡量減少消耗，為戰後的政治統戰保存兵力。”
在對中共的作戰中，日軍順便掃蕩了國民黨軍隊，然而他們馬上發覺這是錯誤的行為。例如1941年日軍占領了國民黨軍衛立煌部長期據守的中條山，結果卻是其始料未及的，“中條山會戰以後，在新占據的地區內，以前的不安定勢力即重慶軍，被中共勢力取而代之，逐漸浸透到各個方麵，治安反而惡化了”（《中國事變陸軍作戰史》），“蔣係軍在華北最後的地盤由於中原會戰失掉以後，共產軍（八路軍）顯然成為擾亂華北治安的主要敵人”（《大本營陸軍部》）。對此，日本華北方麵軍曾反省：“作為蔣係中央軍擾亂治安基地的中條山脈據點，的確受到重大打擊。但是這個所謂‘擾亂治安的遊擊基地’，實際上有名無實。拿它與共黨係統相比，它的活動是極其差勁的。然而，當蔣係軍受到打擊失掉其根據地時，使虎視眈眈尋找機會的共軍立即將其勢力侵入該地區，取代蔣係軍，確立了根據地。從此，華北的遊擊戰便由中共軍獨占了。”（《中國事變陸軍作戰史》）
與此相類似的還有1942年5月至7月日軍在晉冀豫邊境作戰，因未能捕獲中共軍隊主力，而向易於捕捉之敵尋求戰果，消滅了國民黨軍龐炳勳部。對這一結果，日本戰史曾總結說：“這一行動，不僅有損於完成消滅共產黨軍這一主要目的，而且削弱了一直在阻止共產軍勢力向南擴大的殘餘蔣軍，結果卻使共產軍方麵坐收漁翁之利”，故“此次作戰，或可謂為考慮不周的表現”。（《大本營陸軍部》）
至1944年，情勢再變。日本的軍事作戰陷入困境，不得不開始打通大陸交通線的一號作戰，重慶軍的“劣弱性”暴露無遺。國民黨第10軍死守衡陽與豫湘桂全線不堪形成奇異反差，以至於美國人擔憂中國戰線崩潰，一度曾想讓史迪威將軍擔任中國軍隊的最高司令官，後因中共軍隊的奮戰而作罷。
日軍在與國共兩軍交手後，慢慢察覺“就中共的信念而言，他們是要一直戰鬥到日軍完全從中國撤退為止的”。（《華北治安戰》）
國軍並不是這樣。據岡村寧次回憶，當時一些國民黨軍將領投降後，“他們到北京或在當地初次見到我時就說：‘我們不是叛國投敵的人，共產黨才是中國的叛逆，我們是想和日軍一起消滅他們的。我們至今仍在接受重慶的軍餉。如果貴軍要與中央軍作戰，我們不能協助。這點望能諒解’”。（《岡村寧次回憶錄》）由此，日軍得出結論：“日本與重慶之間暫時處於戰爭狀態，卻有能夠共存的性質。但是，日本與共產黨勢力之間則是不容共存的。”
隨著美軍進攻的緊迫，大本營預見到重慶會策應美軍對日開始全麵反攻，以及延安活動的激化，轉而謀求離間重慶與延安，助長其互相爭執。經過談判，岡村寧次向蔣介石提出了一係列反共的建議，其中特別強調要將駐在中國的100多萬裝備齊全、建製完整的日軍，趁尚未遣散之前用來進攻共產黨。此舉深得蔣介石的“嘉許”。日本曆史學家臼井對此評論：與其說那是一次勝利者與戰敗者之間的會談，還不如說是為了合作對付共同敵人——中國共產黨的兩個朋友之間的會談。（《中日戰爭時期的通敵內幕1937-1945》）
本文主要參考日本防衛廳戰史研究編輯、天津市政協編譯委員會譯的《大本營陸軍部》、《支那事變陸軍作戰》、《華北治安戰》，服部卓四郎著、商務印書館出版的《大東亞戰爭全史》，信夫清三郎著、天津社會科學院日本問題研究所翻譯的《日本外交史》，井上清著，商務印書館出版的《日本軍國主義》，根據日本外務大臣重光葵《昭和の動亂》一書摘譯出的《日本侵華內幕》等。
