在國民革命軍的編製序列中，曆史上曾先後出現過2個第35軍。分別為湘軍和晉軍。
湘軍
湘軍第8軍第2師組成的第35軍，該軍前身是湘係唐生智所屬一部。1926年3月，湘軍軍閥唐生智起兵趕走了湖南省長趙恒惕，自任代理省長和善後督辦。同年4月，湘軍其他各部起兵反唐。唐生智被迫接受國民政府改編。1927年2月，國民政府將唐生智部的第8軍第2師擴編成第35軍，隸屬第4集團軍。何鍵任軍長，葉琪任副軍長，下轄：
第1師，葉琪兼任師長；
第2師，劉建緒任師長；
第3師，陶廣任師長。
同年4月，該軍除一部留守湖南外，大部在劉興第2縱隊編成內繼續北伐。7月，武漢政府下令討蔣，該軍在何鍵指揮的江左軍的編成內向南京挺進。10月，南京政府西征討唐，該軍退回湖南，被西征軍收編，仍編為第35軍。12月，葉琪調任第12軍軍長後，該軍第1師被劉興鉶部收編，改編為獨立第5師。同時，何鍵將湖南軍閥陳渠珍部所屬戴鬥垣獨立第10師改隸為該軍第1師，並將王東原部編為該軍教導師。1928年5月，何鍵將程潛第6軍一部，改編為該軍獨立第17、第19師。此時，何鍵任軍長，劉建緒任副軍長，下轄6個師：
第1師，戴鬥垣任師長；
第2師，劉建緒兼任師長；
第3師，陶廣任師長；
教導師，王東原任師長；
獨立第17師，周希武任師長；
獨立第19師，張其雄任師長。
同年底，該軍被縮編為第19師。
晉軍
晉軍傅作義部組成的第35軍，該軍前身是晉閻軍一部。1930年11月，中原大戰結束後，南京政府將戰敗殘存的晉軍和西北軍改編為邊防軍。其中晉軍被改編為邊防第3、第4、第5、第6軍。1931年1月，邊防軍第6軍改編為國民黨軍第35軍，傅作義任軍長，下轄：
第72師，李生達任師長；
第73師，傅作義兼任師長。
該軍編成後即駐守在歸綏地區擔任守備任務。1936年5月，該軍第210旅奉命參加了阻止紅1方麵軍東征的山西戰役。同年上半年，閻錫山對晉係軍隊進行編製調整，第72師該隸第19軍建製，第73師該隸第33軍建製。另從第34軍第71師中抽出一部該隸該軍為第211旅。從第33軍第73師中抽出一部該隸該軍為第218旅。此時，該軍下轄第211旅、第218旅。11月，該軍在綏遠發起百靈廟戰役，重創投靠日寇的偽蒙軍。
1937年8月，抗日戰爭全麵爆發後，該軍參加了平綏路東段阻止日軍的作戰。10月，傅作義升任第7集團軍總司令兼軍長，葉啟傑任副軍長。此時，該軍下轄：
第215旅，田樹海任旅長；
第211旅，孫嵐峰任旅長；
第218旅，董其武任旅長。
隨後，該軍參加太原會戰之忻口戰役和太原保衛戰的作戰。太原會戰結束後，第73師回歸第35軍建製。同時，將第218旅、山西獨立第7旅和警備第3、第9團編成第101師。此時，該軍下轄；
第73師，劉奉濱任師長；
第101師，董其武任師長；
第211旅，孫嵐峰任旅長。
1939年1月，傅作義升任第8戰區副司令長官後，第35軍改隸第8戰區。同時，將第73師改隸第7集團軍直轄，將第211旅改編為新編第31師，另將第215旅裁減，其餘部隊合編為該軍新編第32師。此時，傅作義仍兼軍長，葉啟傑、陳炳謙任副軍長。下轄：
第101師，董其武任師長；
新編第31師，安春山任師長；
新編第32師，袁慶榮任師長。
此次整編後，該軍在綏西地區先後參加了包頭戰役、五原戰役和1939年冬季攻勢作戰等。1944年1月，傅作義辭去兼軍長一職，董其武接任軍長，張濯清、劉萬春任副軍長。1945年5月，董其武升任陝甘綏邊區副總司令後，魯英麟接任軍長。此時，該軍編製不變。下轄：
第101師、
新編第31師、
新編第32師。
1945年8月，抗日戰爭勝利後，該軍隸屬第12戰區。同年10月至1046年，該軍在華北戰區多次與解放軍作戰，先後參加了綏遠戰役、晉北綏東戰役、張家口戰役等。1947年初，該軍新編第31師與暫編第3軍之暫編第17師對調建製。此時，該軍下轄：
第101師，郭景雲任師長；
新編第32師，李銘鼎任師長；
暫編第17師，朱大純任師長。
1948年1月該軍沿平漢路南下，在淶水戰役中，遭到解放軍的重創，其新編第32師全部和第101師大部在淶水戰役的莊町戰鬥中被解放軍殲滅。軍長魯英麟兵敗自殺，新編第32師師長李銘鼎陣亡。此次作戰後，國民黨重建該軍，郭景雲任軍長。同時，將重建後的新編第32師撥歸暫編第4軍，另將暫編第26師調歸該軍。此時，該軍下轄：
第101師，馮梓任師長；
暫編第17師，朱大純任師長；
暫編第26師，溫漢民任師長。
同年9月，原暫編第17師改稱第262師，朱大純兼任師長；暫編第26師改稱第267師，溫漢民任師長。12月，該軍在平津戰役第2階段作戰中，被解放軍全殲於新保安地區，中將軍長郭景雲自殺斃命。中將副軍長王雷震被俘。隨後，該軍以留守北平的第262師為骨幹重建第35軍，由朱大純繼任軍長。1949年1月，該軍在北平和平解放中接受解放軍的和平改編。
