然而，這由太平天國農民率先開始的軍事現代化，卻讓清軍尤其是後起的湘淮軍吃了苦頭。後者奮起直追，其中左宗棠的左係湘軍和李鴻章的淮軍在這方麵進展比較快。在幾年之內，就後來居上。
湘淮軍的後來居上，跟西方對太平天國的態度變化有關。太平天國初起之時，西方從政府人士、媒體人、傳教士和一班冒險家，都對太平天國有好感，到太平軍中幫忙的外國人相當多。但是，隨著時間的推移，這個情況有了變化。他們開始討厭太平天國的宗教，甚至認為這種打著上帝旗號的異端信仰，對他們的宗教是一種褻瀆。同時，他們對太平天國的濫殺也大為反感。同時，由於英法通過戰爭，跟清政府達成了進一步開放的協議，也不再對太平天國抱有幻想，開始出麵禁止對太平軍銷售武器。在這樣的背景轉換的情況下，雖然依然有少數的西方人對太平天國保持友好的態度，但太平軍獲得西方武器，尤其是火炮的渠道，畢竟大大縮窄了。
與此同時，樂意幫助清政府的洋人反而多了起來。1860年美國牛仔華爾在上海地方當局的資助下，組織洋槍隊，標誌著一個轉折——中國的土地上，出現了西方人的誌願軍。這種誌願軍，後來演化為常勝軍和常捷軍，雖然士兵大多還是中國人，但軍官已經是洋人，甚至是西方的現役軍官。這樣的軍隊的出現，對湘淮軍，尤其是淮軍的現代化，起到了非常大的作用。
當時，淮軍和左係湘軍雖然大規模地裝備了洋槍，但是，對於前裝洋槍的使用，卻還是采用傳統中國軍隊的方式，不知道如何排列方陣，第次射擊。由於常捷軍隨左係湘軍行動，常勝軍隨淮軍行動，洋人軍官通過實地演練，教會了湘淮軍洋操，如何使用洋槍，使洋槍發揮出最大的效能。對於李鴻章津津樂道的開花大炮，湘淮軍更是不會用，每每得依靠常勝軍和常捷軍的炮隊。在常勝軍被英國軍官戈登接手之後，這個英國炮兵軍官，至少教會了淮軍如何使用大炮，至於計算射擊夾角，也許淮軍還沒有掌握，但淮軍手裏的大炮，畢竟能發揮作用了。此後攻城略地，淮軍幾乎是得心應手。與此同時，淮軍在編製上，也做了適應洋槍洋炮的改進，使之更加匹配。
太平軍使用俘獲的“飛而複來號”戰艦與清軍作戰
典型的洋人軍官加中國士兵式的洋槍隊
戈登和他的洋槍隊
反過來，太平軍方麵卻每況愈下。在西方軍火禁運的麵前，原有的洋槍損壞日多，補充相對困難。雖然說，也有洋人前來幫助太平軍，但是畢竟這些人數太少，太平軍又沒有給他們教練的位置，所以，太平軍戰士在使用和養護槍械方麵，做得不太好，很多槍械，都生鏽壞掉了。於是，太平軍在武器上跟湘淮軍的差距，日見其大。更重要的是，由於農民的局限性，太平軍對於西方文化的吸收，僅限於物質層麵。在太平軍幫忙的西方軍人也不少，但是，他們卻不讓這些洋兵教他們洋操，至於讓西方人改造他們的部隊，改變編製，就更談不上了。從本質上講，他們缺乏製度改造的能力和意願。所以，既有的洋槍，也難以發揮出應有的作用。在炮的方麵，差距就更大，在湘淮軍越來越凶猛的火炮轟擊下，太平軍奪得的江浙地盤，一塊塊地淪陷。最後的精銳，也在救援天京的決戰中，損失殆盡。這個農民的天國，最後的依仗，也已經沒有了。到天京失陷前夕，太平軍實際上已經糧餉兩斷，已經沒有可戰之兵了。
畢竟，那些奮起救助清王朝的漢人士大夫們，畢竟讀書比較多，在知識上占有優勢，具有文化上的組織和製度能力，一旦開始接受西方文明，就顯示出強大的優勢。這場跟泥腿子比開化的較量，最終還是士大夫贏了。