湖南地麵本來就“不靖”，受到太平天國起義的影響，也就更加不安寧了，“匪類”起事遍地皆是。至長沙不久，道州便發生天地會何賤苟等首領宣布起義，圍攻縣城。曾國藩即派王錱、劉長佑、李朝輔率湘鄉團勇前往鎮壓。但隊伍剛出發，忽接衡山草市劉積厚起事，殺死地方官，響應太平軍。曾國藩又命王錱轉回頭去鎮壓劉積厚。可是命令剛發出，又有攸縣的黑紅會、桂陽的半邊錢會、安化的串子會、永州的一柱香會起事。尚有被太平軍打散的清軍，也混在造反隊伍裏，四處搶劫。幾天裏，呈報到審案局的急件就有一大堆。
做過十幾年京官，終日同經書、詩文打交道文員，雖官至二品，那曾見過這般陣勢？況且手中僅有那千把未經訓練的軍隊，由幾名書生率帶，真是顧了東顧不得西，一時弄得這位銜命出山的湖南團練大臣焦頭爛額。
但是曾國藩卻有他的辦法和手段。他招集審案局委員及團丁，下令對地方不良分子一律處以重典，不論是盜賊、土匪、遊勇，捉一個殺一個，誰捉一個，賞銀五兩。為了殺一儆百，他還命人製作一批木籠，類似於囚車，把拿獲的土匪枷於木籠遊街。遊罷街也不取出，直至遊死、餓死為止。於是，沒過多久，湖南百姓士子都知道長沙出了個殘忍酷毒的團練頭子曾國藩。許多人向省裏告狀，說審案局是閻王殿，連審案局裏的一些委員也表示不再幹這傷天害理之事了。
張亮基卻極力支持曾國藩的行動，他認為“寧失之於嚴，不失之於寬”。張亮基與曾國藩一個心眼，湖南地方對曾國藩的殘酷殺人沒地方告了。大家知道，因為“殺土匪”，告到鹹豐那裏也無濟於事，皇帝恨的就是“土匪”太多。所以告曾國藩的狀子沒有了。於是，曾國藩每天的主要工作是命令殺人，凡捉到的都是“匪”，因此也用不著審問，隻要“驗明正身”，便立即斬首。於是，張亮基上折奏報鹹豐，說曾國藩“有膽有識，剛強幹練”。
曾國藩見數月以來，以嚴刑酷法對待騷亂確有成效，於是變本加厲，擬定“格殺勿論”、“就地正法”的告示，蓋上“欽命幫辦團練大臣曾”的紫花官印，讓團丁四處張貼，弄得長沙城及湖南全省一片恐慌。
曾國藩向鹹豐帝奏報，他任湖南幫辦團練大臣之後，不滿四個月由他直接領導的審案局就殺人137名；由他批示各縣“就地處決”者更多，他給親友的信中所寫殺人之數遠不止此數。因此他受到了社會輿論的抨擊，人們送給他“曾剃頭”、“曾屠戶”的諢號，表示對他的憤恨。
曾國藩初辦團練以殺人為營生，賺得個“曾剃頭”的惡名。張亮基作湖南巡撫之時，處處讓他放手去幹，他還混得下去，但不久形勢發生了根本變化。武漢失守，湖廣總督徐廣縉被革職，張亮基調往武昌，接了湖廣總督的空缺。湖南巡撫由布政使潘鋒署理。不久，原湖南巡撫駱秉章又重任舊職，布政使是徐有壬，按察使是由外處調來的陶恩培、都新。後調來的這三個人，完全不能接受曾國藩的做法，因此，曾國藩的日子日益艱難。
“亦官亦紳”的尷尬
曾國藩久居官場，對官場那一套早已看透，但他出麵督辦團練時，是沒有“名分”的，這勢必與舊的體製發生磨擦與矛盾。這種矛盾與磨擦大體來自三個方麵：一是他的非官非紳的身份與地方官的矛盾；二是督辦團練的做法與官場舊習的矛盾；三是湘軍的建立發展壯大取代了正規軍，因而與國家舊體製的矛盾。第一種矛盾使曾國藩感到辦事不靈，第二種矛盾使他有“越俎代庖”之嫌。
這一時期的湖南巡撫是張亮基。張是江蘇銅山（今徐州）人，舉人出身，頗受雲貴總督林則徐賞識。因林密薦，不到二年間四次升遷。道光末署雲貴總督。
曾國藩最初出山辦團練，是以丁憂侍郎的身份來“入局”的。丁憂是為他母親守喪。按儒家的禮製，無論官做多大，必須盡孝道，為父母守喪三年（實際是二十七個月）。在此期間，朝廷要開去官缺，但仍享有原官品級的待遇，服喪期滿，再到中央重新任職。也就是說，曾國藩有的是二品侍郎的虛銜，他這個“官”是虛職。同時，他又有“在籍”的身份，因為他的母親病故於原籍，曾國藩在家鄉守喪，因而又有了鄉紳的身份。但他這個鄉紳的身份也是虛的，因為他一旦服喪期滿，又要離開湖南重返官場。而那些退休的官員才是真正的鄉紳。就此而言，曾國藩的“亦官亦紳”都是虛銜，這就是他經常談起“非官非紳，辦事不靈”的原因。而好友劉蓉卻有另一層說法，他說：“我看這句話要倒過來說，應該是‘亦官亦紳，辦事必成’。侍郎公曾經有為官的身份，在朝廷上的影響絕不是一般人所能達到的。而侍郎公如此體貼民情，與我們這些書生能打成一片，也不是一般當官的人所能做到的。現在這支上萬人的隊伍，主要還得靠侍郎公。”