黃維有個外號“書呆子”，做事認死理，做人不圓通，不懂得與時俱進，不拉幫結派結黨營私，與同儕袍澤講原則不講人情，因而“得罪”了不少人，但也有很多人知道他的脾氣秉性，遇到他來檢查工作，隻好自認倒黴。老蔣知人善用，並沒有讓這位抗戰英雄繼續帶兵，而是把他放到了軍事教育、檢查軍需等黑臉的崗位上，發揮他比較軸的書生意氣。到了淮海戰役時，老蔣實在沒人了，又要讓黃維上前線擔任十二兵團司令，黃維推脫不開，跟老蔣爭取：“打完這一仗，我還想回去教書。”老蔣答應了，命運沒答應。黃維兵團被殲，黃維本人被捉，之後被送到了功德林戰犯管理所，拒不接受思想改造，其實在關進功德林之前，他就在采訪中記者問他為什麽當時不投降時，留下了“著名”的一段話：“隻有戰死的烈士，沒有苟且的將軍！我為什麽要投降?為了國家民族利益，我要戰鬥到一兵一卒！”
進了功德林之後，黃維脾氣不改，別人讀進步書籍，寫讀書改造心得，他在邊上背誦於謙的《石灰吟》；別人交代罪行，他一個字不寫一句話不說；別人罵老蔣，他不給一句惡評。分析黃維的心理，他根本看不起旁邊這些明哲保身的人，甚至是痛恨那些他當年就十分抵製並得罪過的做事圓通、及時改頭換麵的人，潛意識裏，他認為假如國民黨內都是他自己這樣的人，就不會落個現在的下場。而現在，自己這樣“正直、廉潔、有理想有原則”的人需要交代罪行，當年那些看開形勢改頭換麵的人居然高居廟堂之上，命運如此吊詭，自然心緒難平。但黃維麵對關押過他的撫順管理所金所長（後任）卻感情深厚，金是紅軍小戰士出身，卻贏得了黃維的內心尊重。1959年第一批特赦戰犯時，上級本來都通知了他的妻子做好準備，豈料當時的管理所堅決不從，把他挽留了下來，害的他妻子精神方麵經受了極大的打擊。 黃維從第一批考慮被特赦的對象又等待了16年，等到1975年最後一批戰犯特赦，終於被釋放，他在管理所最後的歲月，把精力都投在了發明“永動機”上，他試圖用這種方式，完成他對於”利國利民”的最後詮釋，被關到最後一天也沒有在政治上服軟。
剛回家一年，妻子就因為精神問題自殺，他傷心之餘，卻像過著“裏麵”一樣的生活——仍然在研究他的“永動機”。回到社會之後，他先後擔任全國政協文史專員，第五、六屆全國政協常委，黃埔同學會理事，這些頭銜使得他有機會見到他的“仇人”郭汝瑰和廖運周。郭汝瑰，前國民黨國防部作戰廳廳長，當年就是他把淮海戰役有關的機密情報轉交給了對方，才使得國民黨在淮海的調動無秘密可言。廖運周是淮海戰役中黃維手下的一個師長，在被包圍的關鍵時刻，假裝突圍，實則率部起義，斷送了黃維突破的最佳時機。
據說隻要在各種工作場合每每見到此二人，黃維必定“怒目而視”，早晚等對方把目光躲回去，他才得勝收工，又有名句：“你們可以付之一笑，我笑不出來！”海峽對岸曾給他傳話，要補發給他幾十年的中將工資，讓他先去第三地暫住（當時未開通直航），他又犯軸：“這邊對我挺好！也沒殺我，家人沒受我連累，孩子也受到教育”，沒去。1989年，兩岸開放探親，黃維準備去對岸看看，臨行之前，因心髒病突發死於北京。“為人耿直，尊重感情，個性剛強，生活儉樸，為人稱道”——這是全國政協對晚年黃維的評價。
黃維的女兒回憶：被俘虜那年，黃維隻有44歲。他與杜聿明、宋希濂等人一起被關在北京功德林監獄裏。初到功德林時，抵觸情緒很大，處處與管教人員對立，還吟誦於謙的《石灰吟》“自勉”，不少戰犯後來的回憶錄裏對此都有描述，說他即便到了戰犯管理所裏也一直挺著腰杆走路，不失“將軍”的威風；他甚至還留起了胡子，自稱“在國民黨時期留的胡須，不能在共產黨的監獄裏剃掉”。當時監獄規定，每個戰犯讀被指定的書後，要結合自己的罪行談讀書體會。杜聿明讀了《論持久戰》後寫了萬餘字的讀書筆記，並要求將自己的讀後感寄給蔣介石。有的戰犯在談體會時，發言長達2個多小時。但是黃維不講話也不表態。與宋希濂、杜聿明這些積極改造的戰犯相比，他成了“抗拒改造”、“最頑固不化”的典型。
有一部描寫戰犯改造的電影裏也有這樣一個鏡頭：在一次學習中，其他戰犯都在積極揭露蔣介石的罪行，黃維不僅不揭發，反而發表攻擊誹謗毛主席的言論，學習組組長董益三等便動手打了他，黃維也不肯示弱，結果雙方打成一團。特赦出來後，董益三和黃家就住在一個樓，後來在政協工作，黃維和他還經常坐一輛車回來，但黃維從來也沒有跟她提過這件事，女兒想即便是真的，在那個特殊年代裏發生的事情，黃維後來也不會再放在心上。不過，現在想起來比較有意思的是，一方麵，黃維是“頑固不化”的典型代表，另一方麵，也正因為如此，政府也煞費苦心、不惜任何代價要將他改造過來。
