該軍前身是川軍第8師獨立旅。1920年11月，川軍第8獨立旅改編為川軍第1混成旅，劉文輝任旅長。同年12月，第1混成旅擴編為川軍第9師，劉文輝任師長。1925年，劉文輝任四川軍務善後督辦時，將其所轄部隊擴充成4個師、6個混成旅、1個憲兵大隊、1個屯殖軍、1個獨立營。1926年8月，川軍在國民革命軍出師北伐的影響下，由劉湘領銜與賴心輝、劉成勳、劉文輝聯合通電，向國民政府表態願出師參加北伐。同年11月，劉文輝所屬部隊被國民政府改編為國民革命軍第24軍，劉文輝任軍長。所部4個師編為4個路軍，其餘編為10個混成旅。
劉文輝兼第1路司令；
費東明任第2路司令，
張為炯任副司令；
夏首勳任第3路司令，
餘中英任副司令；
冷寅東任第4路司令，
王靖宇任副司令；
由林雲根、唐英、張誌芳、覃蓧樓、張清平、吳有鄰、蔡玉龍、徐廷秀、陳毓嵩等分別任各混成旅旅長。
1927年6月，劉文輝兼並了劉成勳的第23軍，將原第23軍第1、第2、第3師分別改編為第5、第6、第7路軍，由原師長陳鳴謙、劉國孝、孫涵分別任第5、第6、第7路司令；原第23軍所屬邊防軍該為川康邊防軍，由羊清泉、賀中強任正、副司令；原第23軍直屬第13混成旅番號不變，楊芳毓任旅長。1928年10月，國民政府對四川各派軍閥部隊進行統一編譴時，該軍將原來所屬部隊統一改編為3個師、2個邊防軍、4個獨立旅和1個屯殖司令。其中：第1師，劉文輝兼任師長，下轄3個旅，張清平、高育瓊、田濟眾分別任旅長；第2師，向育仁任師長，下轄3個旅，林雲根、張誌芳、陳鳴謙分別任師長；第3師，夏首勳任師長，下轄3個旅，唐英、熊思進、餘中英分別任旅長；冷寅東任川康邊防軍副總指揮兼川康邊防司令，陳毓嵩、楊芳琳、羊清泉、蘇華洲分別任獨立旅旅長；徐廷秀任屯殖司令。
1930年11月至1931年7月，該軍在四川軍閥混戰中，軍事實力和地盤得到進一步擴大，擁有成都、南充、內江、瀘州等70餘縣。此時，該軍下轄：第1、第2、第3師；川康邊防軍及所轄第1、第2師；川康邊防第1、第2、第3路；炮兵司令、工兵司令、特科司令、憲兵司令、警衛司令、清鄉司令、屯殖司令和獨立旅等部。1932年10月至1933年9月，該軍在四川軍閥的混戰中，先後經曆了瀘州、省門（成都）、榮（縣）威（遠）、毗河、岷江幾次大的戰役。在此期間，第2、第3師師長林雲根和夏首勳辭職；第2師所屬兩個旅、憲兵司令彭韓、警衛司令鄧和等投靠劉湘部；特科司令黃鼇投靠第28軍鄧錫侯部；川康邊防軍在副總指揮冷寅東帶領下投靠第21軍潘文華部。1933年底，劉文輝與劉湘議和後回到雅安，將該軍殘部整編為第1、第2師和兩個屯殖司令。其中，劉文輝兼第1師師長，下屬劉元塘、劉元琮兩個旅；副軍長向育仁兼第2師師長，下屬徐光普、李玉書兩個旅；劉元璋任寧屬（西昌地區）屯殖司令，唐英任康屬（康西地區）屯殖司令。
1935年，國民政府對川軍進行統一整編時，將該軍原有的兩個師、兩個屯殖部隊統一整編為第136師，陳光藻任師長，下屬第1、第2旅，分別由楊學瑞、劉元瑄任旅長；第137師，劉元塘任旅長，下屬第3、第4旅，分別由袁鏞、楊生武任旅長；第138師，唐英任師長，下屬第5、第6旅，分別由張巽中、劉允琮任旅長。此次整編後，該軍駐守西康雅安。同年3月28日到4月21日，該軍奉命堅守嘉陵江防線，企圖阻止紅軍第4方麵軍南下川康邊作戰。紅軍第4方麵軍西渡嘉陵江後，該軍在金沙江、大渡河等地，奉命對進入西康境內的紅軍第1方麵軍進行堵截作戰。
抗日戰爭爆發後，該軍奉命留守在四川康定、成都、雙流等地，主要擔任後方守備任務。1938年，該軍隸屬川康綏靖公署時，根據國民黨軍隊的整編方案，對所屬部隊進行編製調整。原下轄部隊縮編為第136、第137和1個獨立團。1940年，該軍下轄第136、第137師不變，另擴編1個獨立團、1個騎兵團、1個靖邊司令部。同年6月，第137師師長劉元塘被蔣介石收買後叛劉投蔣，率部離川入陝後與公秉藩第34師合編為新編第12軍，劉元塘被任命為新編第12軍軍長，所部編為新編第37師，隸屬胡宗南集團指揮。劉元塘率第137師離川入陝後，劉文輝以該師餘部重建第137師，副軍長陳光藻兼任師長。1941年至1945年8月，該軍先後隸屬第28集團軍和川康邊防司令部，仍留在後方守備。
抗日戰爭勝利後，該軍隸屬重慶綏靖公署。1946年7月，國民黨軍隊進行整編時取消軍的番號，該軍改編為整編第24師，劉文輝任師長，陳光藻任副師長。原轄第136師改編為第136旅，劉元瑄任旅長；第137師改編為整編第137旅，陳光藻兼旅長。1948年9月，國民黨軍重新恢複軍的番號，整編第24師恢複第24軍番號，劉文輝任軍長，陳光藻任副軍長。原轄第136、第137旅恢複第136、第137師番號。1949年11月，共軍發起西南戰役。12月9日，該軍在軍長劉文輝的率領下通電起義，接受共軍的改編。
