這時李亨在兒子建寧王李及宦官李輔國為首等人的建議下，決定留下平定叛亂，收複失地，北上靈武。公元756年七月甲子日，李亨在靈武即位，是為唐肅宗，遙尊玄宗為太上皇。提心吊膽過了18年之後，終於脫離唐玄宗自立，翻身躍龍門了。
新皇帝一即位，各地抗擊安史叛軍的唐朝勢力望有所歸，戰有所為，並給了他們一線光複唐朝的希望。諸道得知複國有望，盡努力堅守長安，百姓也日夜盼望太子收複長安，京郊附近的綠林豪傑也群起不斷地偷襲安史官兵，安史叛軍雖攻克長安，由於人民的反抗，勢力所及僅長安附近很小的地區。
公元756年，叛軍四萬在大將令狐潮的率領下，包圍雍丘，守將張巡率雍丘城內三千餘守軍死守，屢敗叛軍，使其不得上前一步。令狐潮無奈之下，隻得率兵撤退，結果又被張巡一陣窮追猛打，又有2000餘人做了張巡的俘虜。張巡名聲大震。
睢陽太守許遠請張巡指揮守城。公元757年。叛軍又由尹子奇率領13萬人攻城，張巡、許遠的兵力合起來才六千多人，雙方兵力相差很大。張巡帶兵堅守，和叛軍激戰十六天，俘獲敵將六十多人，殲滅敵軍二萬多人。但城外的兵越聚越多，城裏的兵越打越少。到後來，睢陽城裏隻剩下一千六百多人，又斷了糧食，情況越來越危急。張巡沒法，隻好派南霽雲帶了三十名騎兵突出重重包圍，到臨淮去借兵。
駐守臨淮的大將賀蘭進明害怕叛軍，不願出兵救睢陽。他見南霽雲是個勇將，想把南霽雲留下來作自己的部下，特地為南霽雲單行一次酒宴，請眾將領作陪。南霽雲心裏急得像火燒，哪裏喝得下酒。他流著眼淚激動地說：“睢陽的軍民已經有一個多月沒進一粒米了，我在這裏怎能忍心吃飯；就是吃了，又怎麼能咽得下呀？將軍手下有的是兵，眼看睢陽城陷落，不肯分兵救援，難道是忠臣義士所該做的嗎？”說著，他把自己的一個於指咬了下來，咬得滿口鮮血淋漓，氣憤地說：“霽雲不能完成主將交給我的使命，隻好留下這個手指作證，回去也好有個交代。”南霽雲起身就走，從別處借了三千士兵回到睢陽。到了睢陽城邊，被叛軍發現，又把他們圍了起來。南霽雲帶著人馬在城下展開了一場血戰。張巡聽到城外廝殺聲，知道南將軍回來，就打開城門，殺退敵人，把南霽雲和一批士兵接應進城，結果借來的士兵這時隻剩下1000人。
就這樣，在糧絕缺援的情況下，張巡和許遠率領士兵堅守睢陽半年有餘，到了最後，全城隻剩下枷人，尹子奇再率領叛軍用雲梯爬上城頭，城牆上的守軍餓得連拉弓射箭的力氣都沒有了，睢陽城就這樣被攻陷了。張巡、許遠、雷萬春、南霽雲等三十六名將領全部被俘。
叛將把他們一個個綁了起來，逼他們投降。他們把刀架在張巡脖子上，張巡冷笑一聲，把叛將痛罵一頓。
接下來輪到南霽雲，南霽雲沒有作聲。張巡轉過臉朝著南霽雲高喊說：“南八（南霽雲排行第八）！男子漢死就死，可不能在叛賊麵前屈服啊！”南霽雲笑笑說：“張公放心吧。我心裏在盤算用什麼辦法來收拾他們。哪會怕死？”叛將知道他們都不肯屈服，終於把他們殺害了。
河南節度使張鎬得到睢陽危急的消息，趕快發兵，急行軍趕到睢陽，打退尹子奇叛軍，睢陽城已經陷落三天了。又過了七天，郭子儀帶領唐軍收複洛陽。由於張巡他們的堅守，睢陽以南的江淮地區才沒遭到叛軍的破壞。
睢陽陷落時，安史集團已丟失長安，無力南進了。
與此同時，安史叛將武令、田承嗣相繼率軍攻南陽，守將苦守一年。南陽失陷後又退保襄陽。
李亨即位後，開始調集各路兵馬，進討安史。河西節度使李嗣業、安西行軍司馬李棲筠相繼發兵至靈武，郭子儀亦率軍五萬自河北而至。為了聲張軍勢，又派人去回紇、西域請兵，並與回紇約定，收複長安之日，子女玉帛皆歸回紇，這就為回紇後來燒殺搶掠提供了口實。
但不管怎麼講，現在肅宗的軍隊開始強盛起來。
然而，肅宗既沒有經略天下的本事，又無知人善任之能。在收複長安之前，謀士李泌建議，派李光弼自太原出井徑，郭子儀自馮如出河東，肅宗率兵據扶風，牽製各路叛軍，使敵人疲於奔命。然後派建寧王率軍由長城與李光弼南北夾擊，先搗毀安史集團的巢穴，再調集大軍四合而攻之，可以徹底平定安史叛軍。對這樣一條具有遠見卓識的戰略力案，李亨沒有接納，反而在準備不充分的情況下，聽信宰相房唁的妄言，讓他統帥軍隊，收複長安。結果唐軍一敗塗地。後來，由於安祿山被其子安慶緒殺死，擁有重兵的史思明駐範陽，不聽調遣，安史集團出現分裂。郭子儀這才率軍終於攻克居兩京之間的河東郡，掌握了主動權。李亨以郭子儀為天下兵馬副元帥，在回紇派來的大軍支持下，郭子儀等人終於收複洛陽和長安。