該軍的前身是河南省地方保安團。1949年初，國民黨軍為加強中原地區的防禦力量，將河南省的地方保安團隊合編組成第127軍，隸屬第19兵團。趙子立任軍長。下轄：
第309師，田中田任師長；
第310師，田銑棠任師長；
第311師，劉子仁任師長。
同年5月15日，該軍第309師在湖北賀勝橋、金口地區，參加了第19兵團司令長官張珍領導的起義，接受解放軍的改編。該軍其餘兩師在趙子立率領下逃往四川。同年12月26日，該軍在軍長趙子立的率領下於四川巴中地區起義，接受解放軍的改編。