鄒鳴鶴道：“發匪竟敢如此輕狂，完全是他們久取攻勢，占有便宜。若我等設計給他們一次打擊，則可滅其威風，長我誌氣也！”
向榮道：“中丞大人有何妙計，快快請講。”
鄒鳴鶴道：“鄒某也並非成竹在胸，我隻是朦朧意識到，若發匪越牆而過，可殺之。”
向榮卻由這句話受到啟發，不覺眼睛一亮，道：“對，發匪用呂公車攻城，我們有意放一批人過牆來，然後關門打狗。”
不久，太平軍又來硬攻，五百天兵從呂公車上順利越過牆去，高興地喊道：“我們終於進城了！”他們興高采烈向西門跑去，想開城門迎接大部隊。
突然一陣炮響，衝進城內的太平軍被炸倒一片。埋伏在各處的清兵一起出動，以絕對優勢圍攻剩下的太平軍。可憐，五百天兵上天無路，入地無門，全部捐軀。
向榮、鄒鳴鶴見計已得逞，心中大喜，即刻命令兵勇用繩子把五百具天兵屍體，沿著城牆吊了起來，一炫耀勝利，二恐嚇對方。
入城勇士全部被害。噩耗傳來，太平軍上下一片悲憤，戰士們紛紛請戰，發誓要以死相拚。這種情緒如不加以穩定，很可能給部隊造成更大損失。
天國諸王又召開軍事會議，大家仍聚在象鼻山下一隻大木船上。楊秀清語氣沉重道：“我軍圍桂林已近一月，大小戰鬥二十餘次，用去火藥槍子甚多，死傷男女戰士近萬。眼下清妖在桂林兵力已達兩萬，我軍處於劣勢，奪城毫無希望。本軍師以為不能因一城一池而拖延時日，為盡快打出廣西，我們必須解桂林之圍，別作良圖，以謀進取。”
與會諸王一致讚同，決定放棄進攻桂林，全線撤圍迅速北上。
為了迷惑敵人，太平軍還在象鼻山一帶紮草人、放置火藥用長線引爆。同往日一樣，先在象鼻山、牯牛嶺等高地開炮猛轟城牆，好像要進攻，而太平軍大部隊卻由水陸兩路向北進軍，大舉撤離桂林。被太平軍攻怕了的清兵們根本沒有察覺到“發匪”動向。
太平軍由東西兩路向北從容行軍，來到桂林以北一百多裏的興安縣城。清知縣商昌聞風而逃留下一座空城。太平軍在此暫歇一日，補充物資軍需，招收民眾參軍。次日繼續北上，行軍九十多裏到達全州城外。
太平軍意在迅速北上，並不想花費時日來打全州，隻是想借道路過這裏。可是，全州城內的清軍主動挑釁，惹火燒身，才導致一場激烈的全州戰役。
原來，全州知州曹燮培受主帥賽尚阿之命攔截太平軍。曹燮培想立大功，立即召集兵勇，調動團練，架設火炮，生怕太平軍溜走。
全州位於湘、桂交界處，與湖南的道州、零陵縣毗鄰，是廣西入湖南的必經之地。曹燮培利用全州四麵皆山的地形，設下伏兵。當太平軍前鋒部隊來到全州西門外，正在通過飛鸞橋時，曹燮培命令兵勇開炮，首先挑起了戰火。