該軍前身是北洋軍閥吳佩孚部第18混成旅。1925年10月，北洋軍閥吳佩孚部第18混成旅擴編為第25師，於學忠任師長。1927年5月，第26師擴編為第25師、第26師，1927年秋，第25師、第26師與第7師合編為東北軍第20軍。
1930年9月，張學良在中原大戰中發出擁蔣通電後，率東北軍主力入關，為蔣介石贏的中原大戰的勝利創造了條件。在此期間，該軍改稱為東北第1軍，於學忠任軍長，率兵入關，駐平、津一帶。1933年2月，根據國民黨軍隊的編製序列，進入關內的東北軍統一改編為4個軍。原東北軍第1軍改編成第51軍，於學忠任軍長，下轄：
第111 師，師長董英斌；
第113師，師長李振唐；
第114師，師長牟中衍；
第115師，師長熊正平。
該軍組成後，在參加了長城抗戰和冀東抗戰後，奉命調往鄂豫皖蘇區和陝甘蘇區，參加了對紅軍的“清剿”作戰。1935年6月，國民政府任命於學忠為陝甘川“剿匪”總司令，兼第51軍軍長，該軍編為西北“剿匪”軍2路軍第8縱隊，參加了阻擊紅一方麵軍西征的作戰。此時，該軍第111師、第115師改隸第57軍，第118師由第57軍改隸該軍。
1937年4月26日，於學忠被任命為江蘇綏靖公署主任，該軍由甘肅調至江蘇淮陰整編，於學忠兼軍長，李振堂任副軍長，原下轄的118師番號撤消，所屬部隊編入第113、第114師。“七七”事變後，該軍隸屬第3集團軍，開赴山東擔任海防守備。同年12月，日軍占領南京以後，為了溝通南北戰場，打通津浦路，南路日軍從鎮江、南京、蕪湖渡江被上時，該軍奉命從青島南調，開赴蚌埠、臨淮關一線，參加津浦路北段抗日阻擊作戰。1938年2月，該軍參加了徐州會戰，在台兒莊附近的陶墩、柿樹園、彩裏徐（在今棗莊市台兒莊區和嶧城區）一線陣地阻擊敵人，同北上欲夾擊中國軍隊的日軍第13師團激戰10日，雙方陣地反複易手，戰況慘烈，51軍此戰犧牲6000多人，為李宗仁部取得台兒莊戰役勝利立下汗馬功勞。
1938年5月，徐州會戰失敗後，該軍奉命轉進銅山附近，占領津浦路東之國防工事，掩護魯南兵團撤退。8月，該軍調赴大別山北麓前線，在參加武漢會戰後，與第7、第10軍等部被留置大別山區擔任遊記作戰。
1939年1月，國民黨軍事統帥部為建立敵後根據地，成立魯蘇戰區。3月中旬，該軍奉命由安徽省立煌縣開赴魯南，進入沂蒙山區，擔任沂水、蒙陰、安丘一帶守備。此時，於學忠免去軍長兼職，牟中衍接任軍長，周毓英任副軍長。下轄：
第113、第114師編製不變。
同年6月，日軍以第5師團為基幹，並調集第21、第32、第114師團和第5獨立混成旅團各一部，對沂蒙山實施分進合圍大“掃蕩”。該軍利用沂蒙山區的有利地形，與日軍周旋，經20餘天的作戰，粉碎了日軍的“圍剿”。在此次作戰中，第114師師長方叔洪在馮家場戰鬥中陣亡。1941年，山東偽滿軍一部改為暫編第12師，撥歸該軍建製。1942年1月，牟中衍調任山東省府主席，由周毓英接任軍長。此時，該軍下轄：
第113師，李玉唐任師長；
第114師，黃德興任師長；
暫編第12師，趙保原任師長。
同年春，暫編第12師改隸魯蘇戰區直轄，該軍仍轄第113、第114師。1943年3月至5月，駐山東日軍和偽軍吳化文等部萬餘人，向該軍所在的魯南地區連續發動攻勢作戰，該軍損失慘重，第113師師長韓子乾被俘；第114師全部陣亡。6月上旬，該軍奉命撤出魯南，暫往魯西待命。1944年3月，魯蘇戰區撤消後，該軍隸屬第5戰區，調往鄂豫邊界的大別山區，參加了豫中會戰。此次會戰後，該軍在河南商城整訓。
1946年5月，國民黨軍隊進行整編時，該軍改編為整編第52師，原軍長周毓英改任師長，韓世儒任副師長，原第 113師改編為整編第113旅，李玉唐任旅長；原第114師改編為整編第114旅，李步青任旅長。同年，國民黨對山東解放區發動全麵進攻後，該軍由河南調往蘇魯戰場時，並將原整編第26師第41旅撥歸該師建製，董繼淘任旅長。同年12月至1947年1月，該師在參加宿北戰役和魯南戰役中，被山東人民解放軍全殲。中將師長周毓英、少將副師長韓世儒、少將參謀長李獻中等被俘。此次作戰後，國民黨軍重建整編第51師，王嚴任師長，王秉鉞任副師長。下轄：
第41 旅，黃繼淘任旅長；
第113旅，王匡任旅長。
該師重建後隸屬第1綏靖區，駐防淮陰，擔任蘇北地區的守備任務。同年11月至1948年5月，該師在參加李堡栟茶戰役、益林戰役、鹽（城）南戰役等作戰中，第113旅再次被人民解放軍全部殲滅。
1948年9月，國民黨軍進行整編時，該整編師恢複第51軍的番號。王嚴（王秉鉞）任軍長。原整編第41旅恢複第41師番號，劉衛任師長；原整編第113旅恢複第113師番號，王楚任師長。1949年4月下旬，人民解放軍發起渡江戰役後，該軍在三江營至申港段長江防線擔任防禦任務時，第41師被人民解放軍殲滅。殘部逃入上海外圍後，在參加上海近郊防禦作戰中，再次被人民解放軍全殲，中將軍長王秉鉞、少將參謀長向建白等被俘。退入市區的殘部重建第51軍，由淞滬警備副司令劉昌義兼任軍長。5月27日，該軍在劉昌義率領下向人民解放軍投誠。
