中國古代有“狡兔三窟”之說,是說辦事情要多路經營,留有回旋的餘地。曾國藩也深諳此道。他在建軍初期,就奉行“兩條腿走路”的方針,那就是既有湘軍,又辦淮軍。
李鴻章招募淮勇,是秉承曾國藩意旨。曾國藩創立淮勇新軍,當時主要是為了解決戰線延長和湘軍兵力不足的矛盾。還在1860年8月,曾國藩在《複奏統籌全局折》中,就提出了編練淮勇問題。但鹹豐帝立即命都興阿督辦揚州軍務,令湖北派撥精兵救援,曾國藩暫時無法實施。但曾國藩仍認為“用楚軍之營製,練淮徐之勇丁”切實可行,這可以說是籌議淮軍的先聲。
1861年6月,曾國藩在湘軍中組成了以黃翼升為統領的淮揚水師9營後,編練陸營淮勇的計劃,便被提上議程。
招募淮勇,是曾國藩心中醞釀已久的大事。1859年初的招募皖北馬隊可以稱為發軔之舉;此後,在1860年8月議辦淮揚水師時,曾國藩又接受胡林翼的建議,準備建立陸營以輔弼水師。
在李鴻章正式招募淮勇前,湘軍係統已有3營“淮勇”,這3營分別為:一是馬從震的震字營,馬從震為桐城團練頭目馬三俊之子,其父1854年被太平軍所殺,他於1860年3月到宿鬆投奔曾國藩,曾令其招募1營,號為淮勇,移師祁門後駐守櫸根嶺,不久即撥歸左宗棠部入浙作戰。二是張遇春的春字營,張為李鴻章舊部,1860年應李之召來祁門。三是李濟元的濟字營,李濟元為1858年投降的皖南太平軍將領,其部先作為團練隨楊載福(嶽斌)在建德一帶作戰,1860年7月由曾國藩選取500人,編為濟字營。李鴻章募勇開始,曾國藩即將春、濟兩營撥歸其統轄。
1861年12月,曾國藩基於同樣的考慮,讓李鴻章招募淮勇,組建援滬之師。李鴻章受命之後,考慮到“徒黨星散”,“立時募練”困難重重,而廬州一帶舊有團練較為強悍,自己對當地人情也較為熟悉,所以決定羅致並改編廬州一帶舊有團練,組建淮軍。於是坐鎮安慶,征召廬州一帶舊有團練。
曾、李決定“創立淮勇新軍”後,李鴻章特邀張樹聲前來麵商一切。張樹聲不僅自己募勇相從,而且還左提右挈,動員劉銘傳等“各建旗鼓”。由於曾、李決定招募淮勇和廬州舊有團練,雙方一拍即合,使得李鴻章招募淮勇十分順利,多次在舒廬一帶舊有團練中進行改編,而加以部勒營哨,即成新軍。因而僅僅兩月之間,李鴻章就成軍數營。
李鴻章所募淮勇到安慶後,曾國藩“為定營伍之法、器械之用、薪糧之數,悉仿湘勇章程,亦用楚軍營規以訓練之”。2月22日,李鴻章移駐安慶北門城外營內,曾國藩親臨祝賀。李鴻章深知淮勇實力單薄,於是懇請曾國藩調撥數營湘勇,以加強戰力。曾國藩為陶鑄淮勇風氣,因而允其所請,陸續調撥湘勇8營,撥歸淮軍,作“贈嫁之資”。所有這些,就是淮軍初創時期的基幹隊伍,共計13營,6500人。3月4日,李鴻章陪同曾國藩檢閱銘、鼎、樹、慶和曾國藩調撥給李鴻章的程學啟、滕嗣林等營,這標誌著淮軍正式成軍。
淮軍的基本骨幹,當以李鴻章所率援滬的陸師13營為主,此為淮軍之根本。然而,淮軍援滬的陸師13營,並非李鴻章一手組成。首先,親兵營2個營,就並非是李鴻章的親兵,而是湘軍統帥、兩江總督曾國藩的標親兵,為韓正國所統帶,其源於湘軍。其次,開字營,係借自曾國荃的,為程學啟所統帶,本身也是湘軍,隻是營中多為兩淮子弟而已。再次,林字營2營,為滕嗣林、滕嗣武統帶,雖非湘軍,卻係薛煥在湖南招募湘人而成。複次,熊字營,該營為陳飛熊統帶,垣字營為馬先槐統帶,均係曾國藩在湖南所新招,後隨同李鴻章援滬。
淮軍建成後,就成了曾國藩勢力的另一條腿,很快加入了鎮壓革命的行列。
並且,淮軍的武器裝備是晚清各支軍隊中,變化最大、最迅速的一支。淮軍在1864年前後完成了第一次裝備更新,盡棄冷兵器,實現了火器化。到80年代初又陸續完成了用後膛槍替代前膛槍的更新,而此時的湘軍和練軍仍保留著相當比例的冷兵器。到90年代初,淮軍又開始了以連發槍取代單發槍的再次更新,在晚清,淮軍始終以其裝備最新最好而位居各軍之首。
淮軍是按照曾國藩湘軍模式一手編練起來,在其衣缽傳人李鴻章的統帥下,通過鎮壓太平軍,與列強侵華工具常勝軍既勾結又爭奪,直至最終取代常勝軍,成為能夠憑他調遣的另一支武裝力量,可以說基本上實現了曾國藩“兩條腿走路”的戰略意圖。
後來,在湘軍攻陷天京之後,長期浮沉宦海的曾國藩,鑒於“自古握兵柄而兼竊利權者無一不凶於國而害於家”的慘痛教訓,決定裁湘留淮時,盡管曾、李之間也有矛盾和分歧,但淮軍仍成為“以濟湘勇之窮”的一支後備力量。曾、李能夠在晚清急劇動蕩的社會中站穩腳跟,完全靠的是有一支聽命於己的軍隊。