1950年,陳錫聯任三兵團司令員兼中共重慶市委第一書記、市長和川東軍區司令員,1950年任中國人民解放軍炮兵司令員兼炮兵學院院長,主持製定炮兵發展規劃,組織部隊改裝,進口和研製炮兵裝備。1955年,陳錫聯被授予上將軍銜。1959年起任瀋陽軍區司令員、中共中央東北局書記。文化大革命時期,陳錫聯兼任遼寧省革委會主任兼軍管會主任兼省委第一書記。在此期間,他發現並宣揚了毛遠新[11]。1969年,在中共九大上,陳錫聯進入中共中央政治局。
1973年12月,陳錫聯與李德生對調,任北京軍區司令員[12]。在任上,他秉承毛澤東的意思,整頓北京軍區、北京衛戍區,大力清洗原來的部眾,其中消除了鄭維山、聶榮臻的雙重勢力,也因此與聶榮臻有隙,才有了後來的陳錫聯的 “西山事件”[11]。1974年1月,陳錫聯成為負責處理中共中央軍委日常工作的軍委六人小組成員。1975年1月,第四屆全國人民代表大會第一次會議任命陳錫聯為國務院副總理[13],後又任中共中央軍委常務委員。1976年2月,原主持中共中央軍委工作的軍委秘書長葉劍英被毛澤東下令因病休息後,陳錫聯主持中央軍委日常工作至1977年2月[14]。在粉碎四人幫的過程中,完成中共中央交給的任務[15]。1977年8月在中共十一大上繼續當選為中央委員、中央政治局委員。
陳錫聯支持繼任中國共產黨中央委員會主席華國鋒的“兩個凡是”,被認為是“凡是派”的左膀右臂[16]。隨著華國鋒的失勢,陳錫聯的地位也岌岌可危。1978年之後,陳錫聯請假檢討,1979年分別在沈陽軍區、北京軍區、北京衛戍區、炮兵總部等地給陳錫聯提意見,陳錫聯到會檢查,據稱相當沉痛、深刻。當時隻有北京軍區副司令員傅崇碧和沈陽軍區司令員李德生在會上客觀的評價了陳錫聯,指出了他的缺點的同時,也說他戰功顯赫,沒有“上四人幫的賊船”[11]。1980年1月,陳錫聯在中共十一屆五中全會被免去中共中央政治局委員、國務院副總理和北京軍區司令員職務[17]。
陳錫聯是中共七大至十四大代表、十五大特邀代表,中共八屆候補中央委員、中央委員,九、十、十一屆中央政治局委員;第一、二、三屆國防委員會委員,中共十二大、十三大相繼當選為中央顧問委員會委員、常委。1999年6月10日於北京逝世,享年84歲[18]。