張巡連稱好計。到了次日，張巡站在城樓上，豎起黃旗，令兩軍停戰，高叫：“令狐將軍出陣答話。”
停了一會，果然見敵軍中，陣門開處，令狐潮全身披掛，騎在馬上，左右武士隨著，直至城下。張巡滿臉裝著笑容，在城樓上欠身說道：“將軍請了，俺二人相持日久，勞師靡眾；如今俺這城中糧盡援絕，急欲領眾出走，請將軍領兵，退去二舍之地，使我們從容讓城。”
令狐潮多日攻城不下，心中正是焦急；今聽張巡如此說法，正中心懷，當即傳令，眾軍士退去二舍之地，放張巡兵出城，不得追殺。不消幾個時辰，那令狐軍士，果然拔寨退盡。張巡先打發哨兵出城去打聽虛實，果然四門不見敵兵，張巡便傳令眾軍士，午時出城去砍柴，限申時回城。
頓時四門大開，那軍士們各各腰插利斧，奔出城去，先把四郊的民房拆去，又上山去砍倒許多樹木，捆載著回來。張巡看看柴草十分充足，那近城三十裏的樹木房屋，都已搬盡，便吩咐依舊把四門嚴閉起來，日夜用兵看守著。那令狐潮兵退二舍之地，看看過了三日，還不見張巡讓城；便立刻修書一封，打發差官，送進城去，誰知那差官也被張巡扣住在城中不放。
令狐潮不覺大怒，又帶領人馬，前來攻城。張巡親自在城樓上，對令狐潮說話。令狐潮責問：“為何失信？”
張巡不慌不忙地說道：“並非俺家失信，隻因城中缺馬，俺將士深恐汝軍追殺，不得乘騎，不能速走；願將軍賜馬三十匹，即當讓城。”
令狐潮便信以為真，即選良馬三十匹，送進城去。張巡早與部下將士約定，選驍勇有膂力的將士三十人，人各得一騎，衝殺出城去，人各取敵軍一將；敵軍無將，則軍心自亂。當日見令狐潮果然把馬送來，張巡令眾將官各各飽餐一頓，開著城門，直衝殺出去。
令狐潮的兵士正待城中兵士出走，猛不防那敵將早已衝殺到跟前；那來將如入無人之境，令狐軍將士一個措手不及，有被砍下首級來的，有被活捉過去的，一時陣腳大亂，令狐潮隻得帶領眾軍且戰且退。張巡在城中指揮兵士，如山崩海嘯地掩殺過來。這一戰，張巡軍砍得敵兵首級千餘個，擄得牛馬器械無數。令狐潮屢次中張巡的計，屢次打敗仗，心中又羞又憤，便退回陳留去，堅守不出。
直至是年七月，令狐潮又率領將士瞿伯玉生力軍一萬人，前來攻城；另命四人，假扮著宮中尉官，手捧聖旨，混進城來。
那聖旨令張巡率領本部人馬，前赴行在。張巡設宴款待此四人，席間張巡道：“此去行在千裏，道路為梗，教俺如何去得？更不知諸公如何來得？”
一句話，問得這四人麵麵相覷。張巡喝一聲“拿下！”
帳下健兒，一擁上去，砍下四人的首級來。令狐潮見計策不行，又斬了他的來使，便奮力攻城。張巡自令狐潮軍退去以後，便積聚錢糧，訓練士卒；又與河南節度使虢王巨，遙相呼應，心中也覺毫無恐怖。此番令狐潮再來攻城，足足打了四個月，令狐軍愈來愈多，竟有兵士四萬餘人，而張巡手下的兵士，因戰爭日久，死亡日多，此時隻有一千多兵士。
但經過大小二百餘戰，每戰必勝，令狐潮也沒法奈何他。
這時虢王屯兵在彭城地方，拜張巡為先鋒大元帥。接著魯東平地方，被祿山右翼軍隊攻陷，濟陰太守高承義，便獻城投降祿山。虢王不能守彭城，便領兵退守臨淮。張巡困守絕地，外失應援；賊將楊朝宗出兵寧陵，斷張巡糧草之路，張巡大恐，便率領馬三百，兵三千，乘黑夜退出淮陽，投奔睢陽城而來。
睢陽太守許遠，原是一位忠義之士；他部下有大將兩人，一名雷萬春，一名南霽雲，各領兵數千，在寧陵北道，一日之中，斬殺賊將二十，賊兵二萬餘人，投屍在汴河中，河水為之不流。
從此軍威大震。如今許遠與張巡合兵，勢力更是雄厚。這睢陽城是東西往來要道，兵家所必爭之地；安祿山便遣發部將尹子琦，帶領數萬突厥兵，與楊朝宗合兵十餘萬，來攻睢陽城。許遠自知才不及張巡，便讓張巡為主帥，在城中調遣兵士，自己卻專管軍用糧食戰具。張巡分兵守城，自己卻開城出戰，從辰至午，大小二十戰，氣不稍衰。尹子琦大敗。張巡所得車馬牛羊，盡分給士卒，令城中秋毫無犯。
太子即位靈武，下詔拜張巡為禦史中丞，許遠為侍禦史。
張巡以久困孤城，無異束手待斃，欲乘勝進攻陳留；尹子琦又用大兵圍城，張巡、許遠殺牛大饗士卒，統合城兵士五千人，出城奮戰。子琦望見城中兵少，鼓掌大笑。許遠登城，親自擊鼓，城中兵士出死力與賊戰，子琦兵大敗，張巡窮追數十裏而還。
至五月，子琦又領大兵圍城；張巡命城上遍插旌旗，深夜擊鼓呐喊，賊兵大驚，嚴陣待旦，至天明，見城上寂無聲息，偃旗息鼓。子琦兵士，疲倦不堪，便回營休息。張巡便令南霽雲，領五百騎士，隨後刀斧手一千人，含枚疾走，覷賊不備，直衝中軍；一聲喊起，騎兵四突，南霽雲在馬上斬將拔旗，一時敵營大亂，尹子琦隻領數十兵士，落荒而走。
南霽雲見得親切，急急拍馬趕上，忽橫路裏殺出一員大將來，身披鐵甲，後隨蕃兵千人，各騎高頭大馬，直向南霽雲殺來。南霽雲見自己兵力單薄，怕遭敵人圍困，隻得撥轉馬頭，奔回睢陽城來。張巡在城上，見南霽雲被敵兵追趕得緊，便急放下吊橋，把自家兵士接應進城來；待敵兵趕到，已把吊橋高高吊起，城壕邊預埋著箭手，把敵人陣腳射住。
尹子琦見軍士轉敗為勝，便又揮動大兵，前來接應。那大將帶領兵士，幾次爬城，俱被張巡軍士，在城上射退。南霽雲退進城去，重複登城助戰，見尹子琦在城腳下往來督戰；南霽雲躲在張巡身後，搭箭上弦，颼的一聲，飛出城去，那尹子琦左眼上早中了一箭，應聲倒下馬來。敵兵見傷了主將，便頓時嘩亂起來；許遠奮力打鼓，張巡衝殺出去，又奪得敵人軍器車馬，不計其數。子琦兵一時退盡，張巡兵得稍休養。
這睢陽城中原有稻穀三萬斛，足敷一年之食；在春間因鄰郡濮陽、濟陰絕糧，虢王命分糧一半，接濟濮陽、濟陰兩郡，許遠當時也竭力勸阻，虢王不許，濟陰太守高承義，得了糧米，便即投降祿山去，虢王也懊悔不及。到七月時候，尹子琦又帶兵來圍城；這時睢陽城中，糧食已盡；每一兵士，每日隻給米一勺，煮著樹皮破紙，吞下肚去充饑。可憐那兵士終日餓著肚子，奮勇殺賊，漸漸有些不支起來；老弱的先行倒斃，日子久了，那強壯的也都活活的餓死，境狀十分淒慘。