臣拟现在训练章程，宜参仿前明戚继光、近人傅鼐成法，但求其精，不求其多；但求有济，不求速效。诚能实力操练，于土匪足资剿捕，即于省城防守，亦不无裨益。”9咸丰对官军之窳劣，广西之溃败，早已痛心疾首，曾国藩既然请缨，倒也不妨看看他能搞出什么名堂，于是批示同意：“知道了。悉心办理，以资防剿”。有了这道朱批，曾国藩名正言顺了，其帮办团练的职任也一变而为编练新军了。
曾国藩统率的湘勇，连他在内，基本干部全部是书生，虽然有知识，有头脑，可以很快掌握兵书的基本要领，但无一人有实际军事经验。练兵光靠兵书不成，于是曾国藩请了一个富于军旅经验之人，参与乡勇之军训。这个由此与曾国藩结缘，后来成为湘军早期名将者，是个满洲人，名叫塔齐布。
塔齐布（1816～1855），字智亭，姓托尔佳氏，满洲镶黄旗人。原为都统乌兰泰部下，咸丰元年发湖南以都司用，后以长沙守城之功擢升游击，赏戴蓝翎，后任抚标（即巡抚之卫队）中军参将。“时曾文正公奉命督练乡兵，用明戚继光法训练束伍。每校阅，公（指塔齐布）必短后衣蹑跷带刀侍。文正与语，奇之。试所辖兵，皆精炼。”10曾国藩觉得这是个难得的人才，“常倚该游击整顿营务”，命其兼管辰勇（即由辰州募集之勇）。曾国藩每逢三、八日亲自校阅乡勇的操练，而塔齐布训勇比他来得还勤，“日日常阅，大约十日之中不过间断二三日，军士皆乐为之用”。11问题出在曾国藩想要将绿营拉过来，与乡勇一同会操，一同听训，以扭转其军纪废弛、四处扰民的状态。事情发生在四月，曾国藩命塔齐布“传唤（绿）营兵，一同操演，亦不过会弁委前来听我教语。每次与诸弁兵讲说，至一时数刻之久。”其所为“盖欲感动一二，冀其不扰百姓，以雪兵勇不如贼匪之耻，而稍变武弁漫无纪律之态”。12曾国藩这番尝试，是不避嫌疑，有责任心的表现，但却令湖南的军政大员们不惬。甚至新任巡抚骆秉章，都认为他有喧宾夺主，越俎代庖之嫌。因为依惯例，文官管不着军队，即使是巡抚，也没有过问军队操练的先例。
最先挑战他的，是长沙协的副将清德。清德之为人，是古今官场中常见的那类庸官。这类人自己不做事，却偏好搬弄是非，在背后说做事人的闲话。对自己之职守，清德平日懈怠，战时怯懦，用曾国藩的话来说，他是个“性耽安逸，不遵训饬”的人。他的一大嗜好是养花。外出办差剿匪，“所过地方，虽经贼匪蹂躏之区，尚复需索供应，责令所属备弁，购买花盆，装载船头；一切营务武备，茫然不知，形同木偶。”13他不仅带头抵制会操，“操演之期，该将从不一至”，而且摇唇鼓舌，到处散布曾氏目中无人，僭越军制的谗言。原本就侧目于他独断专杀作风的省府大员们，也都对曾国藩心存了意见。六月，湖南提督鲍起豹回省，听了清德的播弄，将塔齐布传来，“大以其操兵为非是，言有敢复操兵者，即以军棍从事”。14而塔齐布则沮惧而不敢再行会操。
以曾国藩倔强的个性，当然不会退缩，决意力挺塔齐布，参劾清德。15六月十二日，他联络与之旨趣相同的湖广总督张亮基，会衔参奏清德“疲玩”（疲沓且玩忽职守），曾国藩仍觉得不解恨，同日又单独上了个附片，揭露清德与其部下，在长沙被太平军以地道轰塌城墙的危急时刻，换装藏匿的丑事，猛烈抨击湖南驻军“将士畏葸，疲玩已成痼习，劝之不听，威之不惧，竟无可以激励之术”。要求将清德革职，解交刑部从重治罪，“庶几惩一儆百，稍肃军威而（振）作士气”。16
同时，他又以密折保奏塔齐布，称其“忠勇奋发，习苦耐劳，深得兵心”，又保奏辰勇候补千总诸殿元“精明廉谨，胆勇过人”，请皇帝“破格超擢。当湖南防堵吃紧之际，奖拔一人，冀以鼓励众心。如二人日后有临阵退缩之事，即将微臣一并治罪”。17将自己的身家都押了上去，可见国藩对塔齐布的赏识，也可见他欲与鲍起豹一争高下的决心。
咸丰皇帝对清军军事上的一蹶不振，一直积恨于心，对清德这类“疲玩”的将领是绝不会客气的。当月即以“庸懦卑鄙，不谙军务”的罪名将清德革职；随即又以“性耽安逸，不理营务，避贼藏匿，苛索供应”的罪名将他拿办，18而塔齐布则被赏以副将衔（随即又实授副将），令湖南官场大跌眼镜。这头一个回合，曾国藩大胜。曾国藩虽丁忧在籍，却是二品京堂，有资格直接上书皇帝，身份不容小视；况且其所作所为为的是国事，而前后两任湖广总督张亮基与吴文镕于他，一好友，一座师，有参劾所属官员的大权（即湖南巡抚、藩臬两司、提镇大员亦为其属下）。清德不明于此，本身又一身毛病，庸懦忮求，落到这个下场是他自找的。
但惩办了清德，并不意味着湖南的官场认同了曾国藩。骆秉章城府深，心中虽不满却藏而不露，对他敬而远之。鲍起豹却难以吞下这口恶气，伺机报复，而机会也很快就来了。
提标兵（即提督鲍起豹的卫队）固轻侮练勇，倚提督益骄。适湘勇试火枪，伤营兵长夫，因发怒，吹角执旗列队攻湘勇。城上军皆逾堞出，城中惊哗。国藩为（之）鞭试枪者以谢，乃已。俄而辰勇与永顺兵私斗。辰勇者，塔齐布所教练也。提标兵益傲怒，复吹角列队讨辰勇。于是国藩念内斗无已时，且不治军，即吏民益轻朝使，无以治奸宄，移牍提督，命捕主（使）者。提督亦怒，谩曰：“今如命，缚诣辕门。”标兵汹汹满街，国藩欲斩所缚者以徇，虑（激）变，犹豫未有所决。营兵既日夜游聚城中，文武官闭门不肯谁何，乃猖狂公（然）围国藩公馆门。公馆者，巡抚射圃也。巡抚以为不与己公事。国藩度营兵不敢决入，方治事，刀矛竟入，刺钦差随丁，几伤国藩，乃叩巡抚垣门。巡抚阳（佯）惊，反谢遣所缚者，纵诸乱兵不问。司、道以下公言曾公过（于）操切，以有此变。国藩（幕）客皆愤怒，以为当上闻。国藩叹曰：“时事方亟，臣子既不能弭大乱，何敢以己事渎君父，吾宁避之耳。”即日移屯衡州。19
兵勇互斗发生于八月四日，初六日营兵围攻曾国藩行辕，险些酿成大乱。惹不起，躲得起，曾国藩此次委曲求全，是看到自己在省城已经动了众怒。他的家族在湘乡，他还要完成朝廷的使命，翻了脸，他就很难再做下去。以一己之力，对抗省垣众多的官僚，即便可能，也只能落得个两败俱伤的结果。退一步海阔天空，更何况反省起来，他也并非全无错处。“以在戚而攘臂从政，以绅士而侵职代庖，终觉非是。”20事后在给骆秉章的信中，他也承认：“侍（曾之自称）今年在省所办之事，强半皆侵官越俎之事。以为苟利于国，苟利于民，何嫌疑之可避？是以贸然为之。自六月以来，外人咎我不应干预兵事。永顺一事，竟难穷究。省中文武员弁皆知事涉兵者，侍不得过而问焉。此语揭破，侍虽欲竭尽心血，果何益乎？”21
自曾国藩移营衡州后，我们可以看到，在其批给各州县的批牍中，原来独断专行的作风已大大收敛。此前，对上禀的公牍，他都是径直批复；到衡州之后，凡涉及其他衙门职权的批牍，他在末尾都会加上这样一句话：“仍候督部堂、抚部院批示”，或“仍候各辕批示”，表现出他开始尊重各衙门的职权。这样，在这一轮较量中，曾国藩败退了，八月十四日，他以湘南剿匪需要为名，带湘勇移营衡州，不久后开始了大规模招募、训练乡勇，并最终创立一支新军的新生涯。
曾国藩移营衡州后，忙里偷闲，回家省亲一行，八月十六日返乡，住了十日，于二十七日回到衡州。在此期间，江西前线传来一件噩耗，震动了湖湘，也从此改变了他练兵的宗旨。
两个多月前，经曾国藩调派增援江西的湘勇，在罗泽南、朱孙诒、夏廷樾、郭嵩焘等人的带领下，于七月十九日抵达省会南昌。五日之后，湘勇便迎来了组建以来的第一场大战，太平军主力赖汉英、石贞祥、韦俊部与湘军大战于南昌城外，由于镇篁、云贵之营兵没有按约定接应，湘勇在追击时被太平军伏击，因寡不敌众而遭受重创。但此战也充分显露了前一段明耻教战的成果：湘勇虽孤军对敌，却人人奋勇争先，官、兵皆无胆怯后退者。湘勇杀死太平军二百余人，自己虽也战死八十人，“而勇敢之名已大震于匡庐彭蠡之间”。22其中有营官谢邦翰、易良幹、罗信南、罗镇南四人。“湘中子弟敢深入，虽败犹荣，官兵弗如也。”23曾国藩由此看到了希望，坚定了信心，也产生了新的想法。
战死的四名军官，都是王錱从学于罗泽南时的同窗学友，其中易良幹更是王錱的妹夫。王錱（1825～1857），字璞山，湖南湘乡人。5岁入塾读书，20岁为村塾师，24岁时，以府试名列前茅入泮，补县学生员。是年从师于同县罗泽南，与罗门下诸生游，这些人后来多成为湘军的骨干。