初,鍾會之伐漢也,辛憲英謂其夫之從子羊祜曰:“會在事縱恣,非持久處下之道,吾畏其有他誌也。”會請其子郎中為參軍,憲英憂曰:“他日吾為國憂,今日難至吾家矣。”固請於晉王,王不聽。憲英謂曰:“行矣,戒之,軍旅之間,可以濟者,其惟仁恕乎!”竟以全歸。詔以嚐諫會反,賜爵關內侯。
祜綏懷遠近,甚得江、漢之心,與吳人開布大信,降者欲去,皆聽之,減戍邏之卒,以墾田八百餘頃。其紿至也,軍無百日之糧;及其季年,乃有十年之積。祜在軍,常輕裘緩帶,身不被甲,鈴閣之下,侍衛不過十數人。
羊祜是晉武帝司馬炎時期的重臣,在晉朝建國的過程中發揮過重要作用。他膽識過人,為人正直,很受司馬炎的賞識。公元269年2月,為消滅東吳政權,司馬炎任命羊祜掌管荊州各項軍事,鎮守襄陽;任命衛瑾統領青州各項軍事,鎮守臨淄;任命司馬伯統領徐州各項軍事,鎮守下邳。
羊祜赴任後,廣施仁政,很受江漢一帶百姓的愛戴。在與東吳的戰鬥中,他的軍隊抓獲了大量的東吳俘虜,對待這些人,他寬懷仁厚,非常善待他們。對於那些不願繼續當兵的,隻要他們願意回家,他就為他們發放盤纏,讓他們順利回鄉。
為滿足軍隊的糧餉供給需求,羊祜特意調集部分守城士兵,在城外開荒種地。在他的努力下,士兵們開墾了八百多頃農田,完全實現了軍隊糧食的自給。他剛到任時,軍中存糧不足百日;到了後期,積累的糧食足夠軍隊吃上十年。在軍中,羊祜從不穿鎧甲,經常隻穿著寬鬆輕薄的衣服。在他居住的地方,貼身侍衛也不過十幾人。
公元272年9月,東吳西陵督步闡向晉朝投降。羊祜奉命前去接應他,由於沒有成功,被貶為平南將軍。
回來以後,他實行修明德信的策略,感化東吳人,積極促使他們歸順,收到了良好的效果。
每次與東吳交戰,他都事先與對方約好開戰日期,從不作突然襲擊,對此,他的一些部下很有微辭。為防止這些人進獻詭計,每次軍事部署時,他都想方設法事先灌醉他們,使他們不能說話。每次羊祜的軍隊行軍進入東吳境內,割取路邊的穀子充作軍糧時,他都要求手下準確記下數量,以便送回等值的絹帛補償主人。每次他與部下一起在長江、沔水一帶打獵時,他從不越界到東吳。如果趕上獵物先被吳人打傷,然後被晉兵得到時,他都要求兵丁送還吳人。通過這些事情,羊祜很好地塑造了晉國的形象,使東吳邊境的老百姓心悅誠服。
在羊祜與東吳大將陸抗在邊境陳兵對峙的那些日子裏,由於雙方主將彼此欽佩,因此二人常派使者互相來往。陸抗送給羊祜美酒時,羊祜喝起來從不懷疑。陸抗趕上有病了,向羊祜求藥,羊祜總是派人及時送去,陸抗服用時也從不猶豫。見到這種情況,陸抗的部下很是擔心,常勸他防備為好,但陸抗卻總是笑著說:“羊祜怎麽會用毒殺人呢?”。東吳皇帝孫皓聽說羊祜與陸抗在晉吳邊境修好的事情後,很是震驚,就責問陸抗。陸抗辯解說:“一邑一鄉都講信義,更何況我們大國呢?如果我不這樣做,豈不是彰顯了羊祜的美德,成全了他的美名。”
羊祜剛正不阿,不徇私情,從不攀龍附鳳、任人唯親。荀勖、馮忱等朝中權貴都不喜歡他。羊祜的堂外甥王衍,也沒有因為有口才而得到羊祜的栽培提攜。一次,在晉軍攻打江陵的時候,王衍的堂兄王戎因違犯軍法,差點被羊祜殺頭。因此,王衍、王戎兩兄弟都很怨恨羊祜,並經常私下詆毀他。當時的人為此編了諺語說:“二王當國,羊公無德。”
公元278年6月,羊祜因操勞過度得了重病,眼見自己時日無多,抱負未能實現,他就請求入朝覲見司馬炎。到了晉都後,司馬炎特地讓他乘坐車子上殿,並免了他朝拜的禮節直接落座。羊枯向司馬炎談了攻取東吳、統一天下的設想,司馬炎大加讚賞。
考慮到羊祜病重,不方便一次次進宮,司馬炎就派中書令張華專程去羊祜那裏詳細詢問計策。羊祜說:“東吳國主孫皓暴虐到了極點,惹得天怒人怨,人心盡失,現在是我們攻吳的最佳時機,可以不戰而勝。如果孫皓不幸死了,吳人再立一個賢明的君主,那麽即使我們擁有百萬大軍,我們也無法消滅吳國!”
張華聽後非常讚同他的話。羊祜接著說:“成就我理想的人,就是你啊!”
司馬炎接受了羊祜的建議,決定派他率領軍隊去攻吳。羊枯知道後,就對司馬炎說:“攻取東吳不一定要我去,而攻取之後,就要煩勞皇上您親自考慮了。功名我不敢要求,但如果事情成功,要委派官吏前去治理時,我希望皇上慎重選擇合適的人選。”
這年11月,羊祜因病去世。司馬炎聽到消息後,哭得十分哀傷。那一天,天寒地凍,眼淚流到胡須上都結成了冰。荊州的百姓聽說羊祜去世,自發罷市,街巷裏哭聲一片。就連東吳戍邊的士兵聞聽此事沒有不掉眼淚的。
由於羊祜生前喜歡到峴山遊玩,襄陽人為了紀念他,就在峴山上為他建廟立碑。每逢憑吊時節,百姓就去祭祀他,人群絡繹不絕。凡是到此的人,隻要見到那塊記載羊祜生前事跡的石碑,莫不為羊祜的生平而動容,沒有不落淚的,所以後來人們把這塊石碑稱作“墮淚碑”。