2005年1月29日，黃菊在達沃斯世界經濟論壇上講話（圖源：AFP）

2007年6月2日，中共中央政治局常委、中國國務院前副總理黃菊病逝，終年69歲。他是中共廢除領導職務終身製以後，第一位死於任上的中共中央政治局常委。當時的官方報道並沒有說具體是什麽病，有報道稱黃菊患的是胰腺癌。

黃菊病逝三天之後，現任和已退休的中共中央政治局常委在北京八寶山革命公墓送別黃菊，其中就有中共中央前總書記江澤民。黃菊也是江澤民的老部下，因為在江澤民擔任上海市委書記期間，黃菊一直是他的副手，擔任上海市委副書記。

有消息稱，2006年黃菊因為牽扯到上海市委原書記陳良宇案而被調查。不過由於當時他被診斷出患有胰腺癌，因此中共當局就對其減少了曝光度。最終黃菊未等到陳良宇宣判便已不治病逝。逝世之後，中共官方訃告仍給予其正麵評價。

當時外界盛傳黃菊將麵臨整肅，他在上海灘官場集體貪汙案、腐敗案、社保案等鬧得沸沸揚揚之際去世，有人說他“死得其時”，不管有無問題，是否比陳良宇更嚴重，都不會再追究了。

2005年12月，黃菊赴上海參加洋山港開港慶典，回北京不久突然病重住院。2016年4月1日，他的機要秘書馬弘在中國大陸媒體《新民晚報》撰文稱，“我當時根本不相信這是真的。在上海時他還對我說，（2004年）到格爾木青藏鐵路建設工地慰問幹部職工時，在海拔3,800米的工地上他走到工人們當中，和工人們握手說話，並沒感到有什麽高原反應，對自己的身體狀態很是滿意。怎麽說病就病了呢？”

值得一提的是，黃菊曾於2006年10月返回上海華東醫院接受治療4個多月。2016年6月5日，前中共上海市委副書記劉雲耕在《新民晚報》撰文披露，那段時間，黃菊病情相對穩定，雖然感到疲憊衰弱，時有隱痛，但他仍不斷操心工作，多次在上海西郊賓館接待中外來賓，甚至往返北京參加會議。

2006年2月22日，香港《南華早報》報道，黃菊於2006年1月下旬後，因患上胰腺癌而入院治療。時任中國全國政協發言人的吳建民證實黃菊住院，但並未說明其所患是何疾病。外界報道把胰腺炎誤傳為胰腺癌。在“失蹤”期間，他偶有通過給某些活動“發賀信”。2006年6月5日，黃菊在中國科學院第十三次院士大會和中國工程院第八次院士大會上再次露麵，但至11月在上海會見以任誌剛為團長的香港銀行公會訪問團以後，黃菊再度沒有公開露麵。

2007年3月7日，他臉帶病容出席兩會上海代表團會議，這是他最近一次的公開露麵。

2007年6月2日，黃菊在北京逝世，終年69歲。三天後，遺體在北京八寶山革命公墓火化。