经无法在长沙待下去了，只能选择离开。
经过几天的思虑，他选择带着乡勇到衡阳去发展，衡阳虽然不是大城市，但衡阳地处湘水和蒸水汇合处，也是练兵的重地。当年吴三桂在衡州称帝时开辟的一个练兵场，比长沙南门外练兵场还要大。
曾国藩曾经不止一次地在自己的日记里表明，他是衡阳人。曾国藩的祖籍的确是衡阳的，凭借这一层关系，曾国藩去衡阳练兵，就显得更加亲密了。
实际上，他是在长沙城混不下去了，这才想到要去地方上。衡阳距离长沙不是很远，方便与长沙取得沟通。同时衡阳又都是老乡，方便曾国藩在这里招兵买马。
最关键的一件事，那就是前往衡阳以后，可以躲避绿营兵的骚扰，能放开拳脚，大干一场。在长沙，人家都是地头蛇，曾国藩不仅没办法治理他们，反而要时刻提防着。
到了衡阳就不一样了，那时候太平军士气正旺，到处攻城掠地，当地百姓人心惶惶。这时，有军队来驻守让当地百姓能够安心，所以备受当地民众欢迎。曾国藩到了这里如鱼得水，训练的积极性更高了。从这之后，湘军的雏形逐渐显现。
有人说曾国藩是千古完人，几乎可以称之为圣人，当我们走进曾国藩时，就知道，他其实也是常人，跟普罗大众差不多，他也会自以为是、也会骄傲自满、更会固执己见，之所以能够在晚清成为一代名臣、中兴之臣，是因为他自己的自我修整、遇见问题不可怕，要根据问题改变自己，让自己步步为营，在量的积累到一定程度，质变才会显现。从他参加科举开始一直到创建湘军，最后成为两江总督封疆大吏，又在关键时刻急流勇退，保全自己及家族，都是他时刻反思、不断改变自己才达到的一个高度。
现实是，曾国藩虽有报国之志，但，咸丰帝让他办团练，只限制在“保卫乡里”，他训练的这点乡勇，别说在太平军打来时起不了作用，就是上山剿匪都心有余而力不足，所以，曾国藩一直在思考，怎样把团练的规模扩大，要知道，清朝对汉人带兵是有
