太平軍西進到山西的垣曲時，立刻轉向北麵，攻陷了平陽府。訥爾經額立即被朝廷革職，由多謀善慮的勝保接任欽差大臣。勝保被賜予勝卓刀，賦予他可以將副將以下部屬處死的權力。太平軍雖已減員至2萬人，但補充了朱錫琨與許宗揚從金陵帶來的援兵。
太平軍得到增援後，以難以置信的速度穿越山西。一座又一座城池被他們攻陷，清政府被有關他們戰鬥力的報告嚇壞了。9月29日，他們通過臨洺關進入直隸。在這個直轄省份，他們仍然一往無前。他們通過或攻陷了任縣（10月1日）、隆平（10月2日）、柏鄉（10月2日）、趙州（10月4日）、槁城（10月6日）、欒城、晉州（10月8日），於10月9日抵達深州休整，在10天內挺進了150公裏，攻占了5座城池。然而，他們在深州遭到了一定強度的阻擊，官軍的指揮官是從揚州一路追蹤而來的欽差大臣勝保，以及太平軍在懷慶避開了的那些官軍將領。這些官軍對深州發起了攻擊（10月21日），當天被太平軍擊退，但是太平軍於第2天出城逃往富莊驛，然後於31日抵達靜海縣。此地和附近的獨流，成為他們進軍的極限。他們距離天津已不足50公裏。[1]
[1] 《平定粵匪紀略》：卷二，第 22 頁。
在記述太平軍從廣西老家抵達金陵以及接近天津的進軍過程時，我們擁有驚人的證據，表明清政府的正規軍完全無用，而許多文官也是同樣怯懦。當時的《京報》充斥著對知縣、知府甚至巡撫、將軍與總督的公開指責。他們在危機時刻擅離職守，臨陣脫逃，假裝生病需要尋醫求藥。在敵軍兵臨城下時跑到鄉下招募新兵。在抓到幾名太平軍哨探並將其處死時，或者進入了剛被太平軍放棄的城市時，便向上級告捷。就連向榮，明明有幾個很好的機會可以擊潰太平軍，卻總是在時機錯過之後才顯示他的能量，如今駐紮下來，對金陵進行久而無功的圍攻。而剛剛在天津郊外追上太平軍的勝保，與之保持著一段安全的距離，小心翼翼地不去觸碰，以免兵敗而遭貶斥。
的確，在此生死存亡的關頭，皇帝不得不克服對可怕的韃靼部落的嫌惡，將蒙古王子僧格林沁召來增援，令他帶上荒漠的武士。他們與滿族人武裝一起，將靜海與獨流設為太平軍進軍的極限。林鳳翔盡管麵對著可怕的勁敵，仍然在酷寒的冬季堅守陣地兩三個月，才被官軍擊敗，被迫撤退，逐步退向黃河。林鳳翔在此得到增援，使他得以在被俘之前進行多次戰鬥。他的部眾於1855年潰散。[1]
[1] 本章的資料主要取自《平定粵匪紀略》、曾根俊虎的《發賊亂誌》，以及在某種程度上取自《粵氛紀事》。關於北伐的記述使用了《京報》的譯文。
當林鳳翔帶著這支遠征軍向北挺進時，太平軍另有派遣軍溯江而上，重新奪取了他們在向金陵進軍時放棄的那些城鎮。一支派遣軍有兩個師，由賴漢英與石祥禎率領，首先攻擊九江，然後從鄱陽湖抵達南昌。
與此同時，官軍方麵在廣西與湖南以勇武贏得了最佳將領聲望的江忠源，被朝廷任命為湖北按察使，奉命火速前往金陵大營。[1]他於5月14日率3000人離開武昌。在沿江而下的途中，他聽說太平軍已到南昌。該處是湖南的後門。於是江忠源在九江轉而南下，背道去救南昌。抵達該城後，他向太平軍發起攻擊，企圖迫使他們撤圍。但是太平軍不肯離去，於7月7日引爆地雷。然而，守軍沒讓他們從豁口入城。太平軍花了3個月攻打南昌，在最後一次轟擊城牆之後，他們決定撤圍。江忠源追到九江，但晚了一步，太平軍已重占該城。他們無意於留在九江，而是溯江而上，打敗了坐鎮田家鎮的總督，經過黃州，最終於10月初抵達已經重建起來的漢陽。[2]
[1] 在陰曆二月（1853 年 3 月 10 日—4 月 7 日）。《年譜》：卷二，第 3 頁上欄。
[2] 《平定粵匪紀略》：卷二，第 13~28 頁。
太平軍的第二支西進派遣軍從陸地進兵，攻占了安慶。接著，翼王石達開與胡以晃穿過安徽省，攻陷了大批城鎮。到了年底，第一支派遣軍從漢陽撤回安徽，該省全部處於太平軍控製之下。由於曾國藩與其他人的推薦，江忠源被任命為安徽巡撫。他前往廬州，企圖守住該城，以對抗胡以晃指揮的10萬太平軍。江忠源的弟弟和劉長佑竭力援助江忠源，但無法突破敵軍的封鎖。1854年1月14日，太平軍發起總攻。守軍雖少，卻竭盡所能防守城牆，直到江忠源投水自盡以後，方才放棄抵抗。
這個不幸的事件使清廷失去了一位最傑出的將領，江忠源雖因過早去世而未能登入中國的名人堂，但他率先在廣西顯示了民兵在鎮壓太平軍的戰爭中所具有的價值。在蓑衣渡，他迫使太平軍改變進兵路線，無疑是他拯救了長沙，使湖南的省會來得及部署防務。在長沙遭到圍攻時，他率領自己的小部隊為該城的防禦發揮了重要的作用。是他使曾國藩想到了按照同樣的模式建立一支軍隊，創立水師，用於在華中的水道上作戰。如果他活著參加了這場戰爭中餘下的戰鬥，他的名字無疑會排在曾國藩、左宗棠與李鴻章之列，可能還是排在最前麵。他所做的工作為曾國藩後來更加引人注目的作為奠定了基礎。[1]
[1] 對江忠源的這個評價，根據《發賊亂誌》（第23頁）作者的說法，曾國藩是讚同的。他說，當江忠源首次提出建立水師的時候，曾國藩願意跟他聯銜上奏。他接著寫道：“國藩在與某人交談時說，‘生平未見如岷樵這般有遠見之人，若有人不久名動天下，非此人莫屬’。”我在看到這段記述之前便已下了自己的結論。曾根俊虎沒有給出資料來源。
在安徽被太平軍占領的同時，東王楊秀清親自率領一支大軍溯江而上，企圖攻占武昌，控製金陵以上的長江段。湖廣總督前往黃州，試圖攔截楊秀清。在新年那一天，他以為太平軍會放鬆警戒，於是發起攻擊（1854年2月7日），結果兵敗，他本人被太平軍擊殺。太平軍繞過官軍，而官軍則在代理總督率領下撤到武昌上遊的金口。除了城頭上的守兵外，武昌城內兵力空虛。太平軍於1854年6月26日攻破該城，控製了遠達金陵的整段長江。