因而在他任两江总督期间，幕府人才之盛，湘军将帅之精，据统计后来得以成名的就有182人，其中做到一二品官的，即总督有十四人，巡抚十三人，提督、总兵各有二十人。
这是一个集人才的群体，因而湘军前期在与太平军作战时虽然是屡战屡败，却能屡败屡战，败而仍能凝聚不散。
1852年7月，太平天国进军湖南时，曾国藩被派为江西正考官出京，中途得悉母丧回到湘乡老家。翌年初，咸丰皇帝因武昌失陷，采纳周天爵意见，命湖南和山东、江苏等九省在籍官绅、曾任二三品文武官举办团练。
曾国藩是最早从湖南巡抚张亮基处接到谕旨的，开始他推卸，但经好友郭嵩焘和兄弟曾国荃等劝说，终于应邀到长沙筹办团练。
曾国藩到了长沙，就提出要设一大团，把周边各县农民，择其壮健而又头脑单纯的招募来省城编队训练；他还成立了所谓的“审案局”，拿到造反农民，即使有造反嫌疑的，也不作审讯，就借巡抚令旗，重则斩首，轻则亦立毙杖下。