當(dāng)太平天國(guó)的勢(shì)力逐漸崛起，清朝江山日益動(dòng)搖。原本在家守孝的曾國(guó)藩，對(duì)于局勢(shì)的變化，并非完全不知。但他并沒(méi)有憤然離家報(bào)國(guó)。相反，當(dāng)咸豐皇帝多次下旨令他組建團(tuán)練，曾國(guó)藩都拒絕了。
直到好友郭嵩燾的親自到訪，才令曾國(guó)藩改變主意。組建地方團(tuán)練，并非從曾國(guó)藩開(kāi)始。乾隆、嘉慶年間，為應(yīng)付叛亂，都曾借用地方團(tuán)練的力量。太平天國(guó)興起初期，羅澤南就曾組建湘勇與太平天國(guó)交戰(zhàn)。
曾國(guó)藩雖然多次拒絕了咸豐皇帝的旨意，但對(duì)于練兵，他一直有一套自己的看法。咸豐年間，過(guò)去被朝廷仰仗的綠營(yíng)、八旗，都已衰敗無(wú)能，不堪再戰(zhàn)。它們的風(fēng)氣極差，平素忽視訓(xùn)練，臨到戰(zhàn)時(shí)，才匆忙披甲上陣。
遇到險(xiǎn)情時(shí)，只會(huì)退縮。弓馬射箭的本事，早已丟得一干二凈。武器盔甲也有各樣的問(wèn)題。綠營(yíng)、八旗的糟糕情況，都讓曾國(guó)藩對(duì)自己的練兵方式，更為執(zhí)著。
在他看來(lái)，組建軍隊(duì)?wèi)?yīng)該先招募將領(lǐng)，再招募士兵。對(duì)于將領(lǐng)、幕僚的人選，曾國(guó)藩側(cè)重文人。但也并非全是那些熟讀四書(shū)五經(jīng)的儒生，還有許多都是對(duì)西方文化有很深了解的科學(xué)家和工程師。
如李善蘭，如數(shù)學(xué)極有研究，在這一領(lǐng)域有一定建樹(shù)，被認(rèn)為是中國(guó)近代數(shù)學(xué)的先驅(qū)。
徐壽，翻譯了大量介紹西方科技的書(shū)籍和刊物，又創(chuàng)建了一所中國(guó)近代第一所教授科技的學(xué)?！裰聲?shū)院。
容閎，中國(guó)最早留學(xué)美國(guó)的人，曾獲得耶魯大學(xué)榮譽(yù)法學(xué)博士。這種融貫中西的人才，在曾國(guó)藩的人才中，并不少見(jiàn)。
找到將領(lǐng)后，就要確立軍隊(duì)的編制。如果說(shuō)將領(lǐng)是大腦，編制就是骨架。曾國(guó)藩確立的湘軍編制，以營(yíng)制為基礎(chǔ)。每個(gè)營(yíng)五百人，設(shè)立營(yíng)官。
曾國(guó)藩經(jīng)過(guò)一年多的努力，組建起一支由十三營(yíng)兵力，六千五百人的陸軍，十營(yíng)五千人的水軍。
這支軍隊(duì)凝聚了曾國(guó)藩多年練兵思考的心血，也是湘軍后來(lái)成名的基礎(chǔ)。在營(yíng)制以下，又有哨，設(shè)立哨官。睄的編制是八十人，一個(gè)營(yíng)有四哨。
這么算起來(lái)，只有320人，跟每個(gè)營(yíng)五百人，有了出入。之所以會(huì)出現(xiàn)這種情況，是因?yàn)槊總€(gè)營(yíng)官，有一部分親兵，可以直接管轄。這部分軍隊(duì)是在四哨以外的。
而在哨以下的編制，就是隊(duì)。每個(gè)隊(duì)設(shè)立什長(zhǎng)，一共有十人。這是一個(gè)標(biāo)準(zhǔn)配置。對(duì)于發(fā)放補(bǔ)給，以及戰(zhàn)后統(tǒng)計(jì)傷亡人數(shù)，有很大幫助。
李鴻章組建湘軍時(shí)，一開(kāi)始也是以湘軍的這個(gè)編制為基礎(chǔ)，后來(lái)才引入外國(guó)軍隊(duì)的編制、武器和訓(xùn)練辦法。
編制確立后，自然是對(duì)士兵的篩選。曾國(guó)藩對(duì)士兵，也有很?chē)?yán)格的選拔。他只選擇那些忠勇的山民，而不是夸夸其談的街頭無(wú)賴(lài)。湘軍的士兵也是由將帥親自招募的，以同鄉(xiāng)親族作為連接的紐帶。
將官士兵之間，更有感情。湘軍中以忠孝鑄造軍隊(duì)的風(fēng)氣。跟當(dāng)時(shí)其他軍隊(duì)相比，有很大不同。
但是，他們只效忠曾國(guó)藩一人，對(duì)兵部的調(diào)令，并不是完全服從。某種意義上而言，湘軍更接近于曾國(guó)藩的私家軍。湘軍使用的這套編制，確實(shí)讓軍隊(duì)有更強(qiáng)的凝聚力，指揮起來(lái)，也更加得心應(yīng)手。
湘軍因曾國(guó)藩而創(chuàng)，曾國(guó)藩靠湘軍而立。兩者之間，相輔相成，才能在歷史上，留下濃墨重彩的一筆。
