張巡在極度的不情願當中，帶著一幹人等踏上了行程。半路上，他們碰到了一座玄元皇帝祠（其實就是老子的祠堂，唐朝皇室奉老子李耳為始祖，追封他為玄元皇帝）。張巡觸景生情，痛哭流涕。眾人的情緒受他感染，也放聲痛哭起來。張巡一看，這人心還是歸屬於朝廷的，當即就發動眾人，一起誓師討賊。
張巡帶著這一千多人回師突襲譙郡。楊萬石可沒料到讀書人會來這一手，被打了個措手不及，糊裏糊塗地就被張巡給幹掉了。當時，單父縣（今山東單縣）縣尉賈賁也起兵討賊。他在宋州擊敗了張通晤之後，便打算去攻打雍丘（今河南杞縣）。張巡聽說了這個消息之後，便與賈賁合兵一處，共有兩千人，哥倆兒一起去攻打雍丘。
這哥倆兒為什麼要去攻打雍丘呢？因為雍丘縣的縣令令狐潮（注意，不是令狐衝）已經投降了叛軍。說起來，張巡和令狐潮的私交還是蠻不錯的。兩人同是帝國縣令，國難當頭之際，卻做出了截然不同的選擇，高下立判。
張巡和賈賁帶人趕到雍丘城外的時候，令狐潮剛好不在城中。
原來啊，這令狐潮向來精明，他投降了叛軍之後，打算立一件奇功，讓新主子瞧瞧。剛好有一支從睢陽（今河南睢陽）北上抗擊叛軍的唐軍路過雍丘。令狐潮這個壞東東就搞了個偷襲，俘虜了很多唐軍士兵。就在他準備將這些人全部殺死的時候，剛好叛軍來到城下，令狐潮出去接應。這些被綁的唐軍士兵趁機解開繩索，殺掉了看守的士卒，將張巡等人迎入了城中。
張巡和賈賁這哥倆兒都是那種嫉惡如仇的人，進了城之後，就把令狐潮的老婆和三個孩子都給殺了，還把屍首掛在了城牆之上。戰區總指揮嗣吳王李祗聽說了這個消息之後，便提拔賈賁為監察禦史。
沒過幾天，令狐潮來了，帶著大軍為老婆孩子報仇來了。賈賁是個急性子，一見令狐潮這個寡廉鮮恥的家夥還敢回來，當時就怒了，率領軍隊就衝了出去。沒想到，他卻著了令狐潮的道道兒。令狐潮故意示弱，誘使賈賁出擊。意氣用事的賈賁果然中計，被令狐潮殺了個回馬槍。混亂當中，賈賁馬失前蹄，被亂軍踩成了肉泥。
賈賁出擊的時候，張巡並不在城上。他聽說了這個消息之後，便揮舞著一口大刀衝殺了出來。眾人見他如此勇猛，士氣大振，也跟著反攻了出來。張巡身上多處帶傷，但是他全然不顧，帶領著眾軍奮力拚殺，最終將令狐潮擊退，把賈賁的殘骸撿了回來。眾將見張巡這個書生居然如此勇猛，就尊奉他為主將。
令狐潮雖然被張巡擊退了，但是元氣未傷。為了報殺妻屠子之仇，他派人飛報安祿山，請求增兵添將，二打雍丘。安祿山就派了叛將李廷望率眾四萬來援。令狐潮得了四萬精兵，引著叛軍，又來攻打。當時，雍丘城中，士兵不過三千，大將也就是雷萬春等二十五人，確實是眾寡懸殊啊。
在開戰之前，張巡開了個會，他對手下的將領們說：“令狐潮這個混球兒知道我們的虛實，他肯定會輕視我們。所以，我們就要出其不意，打他一個措手不及。”（賊知城中虛實，有輕我心。今出不意，可驚而潰也，乘之，勢必折。）
眾人異口同聲：“頂（善）”。
果然，這令狐潮仗著自己對雍丘十分了解，就不把張巡等人放在心上。豈料次日交戰，張巡趁敵人立足未穩之際，兵分四路，突然出擊，一邊兒衝鋒，一邊兒還專門埋伏了一撥人負責敲鑼打鼓。叛軍沒想到張巡那麼點兒人還敢主動出擊，猝不及防，大敗而逃。令狐潮一氣兒跑出去二十裏地，才敢安營紮寨。
張巡太了解令狐潮了，他知道，這個家夥明天肯定還會來。於是，他命令士兵多多準備滾木擂石，灰瓶箭矢，就等著明天好好招待招待令狐潮了。
果然，第二天，令狐潮來了。這一回，他沉穩多了，帶來了大量的雲梯和木樓。看樣子，他是想一舉攻下雍丘。叛軍蜂擁而上，搭起雲梯和木樓，如螞蟻般往上爬。
唐軍早有準備，他們不慌不忙地拿起了一旁的稻草捆兒，澆上一點兒油，然後再用火把點著，做投鉛球狀，將手中點燃的草捆兒向著叛軍的木樓扔去。“嗚……啪”，草捆兒落到了木樓上，然後迅速地燃燒起來。不一會兒的功夫，令狐潮辛辛苦苦做好的木樓和雲梯就都化為灰燼了，少數沒有被燒盡的梯子，也被唐軍用鉤子鉤到了城上，據說成了烤紅薯的燃料。
如此你來我往，相持了兩個多月，大大小小打了四百多仗，令狐潮愣是沒踏進雍丘一步。張巡還總乘著叛軍思想鬆懈的時候，親率精騎數百，冷不丁殺出城外，幹叛軍一票兒。有一次更懸，張巡直接帶人幹到了令狐潮的中軍大帳，差點兒把令狐潮給擄了去。
令狐潮萬般無奈，隻好收拾殘兵敗將，垂頭喪氣地退到曹州去了。