咸丰二年腊月，曾国藩收到湖南巡抚转来的谕旨。

咸丰皇帝命他“帮同办理本省团练乡民，搜查土匪事务。伊必尽力，不负委任”。

尚在丁忧中的曾国藩接到圣旨后，再三犹豫，后在好友郭嵩焘等人的劝说下，才终于决定出山创办团练。

此时太平军虽已过境，但在湖南各地余波未净。各路响应造反的武装，如天地会等，也十分活跃。

曾国藩进驻长沙就任团练大臣后，便带着团练对湖南各处的反清武装，进行了残酷的镇压。这也为他落下了“曾剃头”这个诨号。

不过，曾国藩毕竟只是个在籍官员。他的所作所为，有滥权之嫌，触犯了很多人的利益，更引起了长沙那些在职的正牌官吏们的不满。因此，曾国藩同他们之间发生了激烈的冲突。

无奈之下，曾国藩于咸丰三年八月愤然离开长沙，出走衡阳。在那里，他开始用新法练勇，也由此缔造了真正的湘军。

曾国藩练湘军，取法大体源自戚继光的练兵之道。同时，他利用自己的声望和号召力，聚集了一大批湖南的才俊在身边。这些人日后都成为了湘军的骨干将领和重要幕僚。

湘军以营为基本单位，最初时每营三百六十人，营下设哨，哨下再设队。

在人员组成上，非常慎重招募。所募勇员，必须是湖南乡土农夫，且各营必由统营将领亲自逐级招募。

如此这般，使得湘军的乡土本色浓郁，将领与勇员之间关系紧密，便于调度自然。

此外，曾国藩还建立了长夫之制，长夫协助营伍作战，类同工兵，大大提高了湘军的战斗力。

曾国藩还十分重视水师的建设。南方水网稠密，河湖纵横，与太平军交战也大多在这一地区，因此水师的的重要性可见一斑。可以说湘军日后军事行动的开展，很大程度上都要依赖水师。

就这样，湘军在创立后，几经起伏，终于在同太平军的鏖战中，淬炼成为一支劲旅。

另一方面，自得到太平军占据武昌的讯息后，咸丰皇帝坐卧不宁。他一面又惩处了一大批剿匪不力的官员，一面重新布置新一轮的围堵。