祖逖的隊伍開進蘆洲地界。山道岔口，有幾個農民流亡軍攔住去路。有一個流軍口中振振有詞：“此山是我開，此樹是我栽，若從此處過，給我拿錢來。”
參軍殷乂聽了冷笑道：“嗬嗬，哪裏來的毛賊敢在此撒野。豫州刺史來此，還不快快束手就擒。”
流軍的軍士也冷笑：“嗬嗬，哪來的野漢，敢冒充我們豫州刺史，大膽！”
殷乂大聲道：“什麼冒充？我們的豫州刺史祖逖祖大人是司馬左丞相上表皇上禦批的，還能有假。睜開你們的狗眼看看。”
流軍軍士們爭相觀看，嘀咕說：“怎麼又來了個豫州刺史。走走走，快快報告去。”
原來本地豪強張平、樊雅，乘亂起兵，張自任豫州刺史，樊自任譙郡太守，各據一城，有眾數千人。張平部下還有董瞻、於武、謝浮等十多支小部隊，各有數百人。張、樊名義上臣屬於司馬睿，接受司馬睿給予的四品將軍頭銜，實際上不受約束，自行其是。祖逖摸清了情況，派遣參軍殷乂去聯絡張平樊雅，臨行囑咐說：“張樊二人，亦敵亦友，應予以安恤。”殷乂出身世族，心想對這些土包子，還客氣什麼。見到張平，殷乂看他的將軍府不夠氣派，就說：“這不是馬廄吧，將軍你怎麼住在這裏呢。”張平說：“本部流民居多，大家能吃上口飯就不錯了，還期望住什麼宮殿呢。”殷乂又說：“是呀是呀，你以後就不要自稱‘豫州刺史’了，真正的刺史大人已經到位了。”張平緊張地問：“誰？這麼不知死活，敢與本官作對。”“祖逖，祖大人。”張平問：“是聞雞起舞的那個祖逖？”“正是。”張平氣憤地說：“司馬睿混蛋！我張平做刺史在先，你去告訴祖逖，做哪的刺史不好，幹嗎非要在我張平脖子上拉屎。”殷乂說：“你乖乖讓出刺史位，不然頭顱不保。”張平大怒，說道：“要我讓位，我先殺了你再說。”言畢殺死殷乂。
祖逖聽到回來的軍士彙報，歎息一陣，思謀策略。部將韓潛獻離間計，祖逖大喜。從張平部下分化出謝浮，謝浮借與張平商討軍情之機，殺死張平，率眾歸降。
譙城樊雅，得知張平被殺，乘夜來襲祖逖，攻入營壘，拔刀大呼，直逼祖逖營帳，軍中大亂。祖逖臨危不懼，大聲呼道：“祖逖不殺無名之輩，報上名來。”樊雅道：“本將樊雅坐不改姓，站不改名。”說著手持大刀砍了過來。祖逖抽出劍來，隻見弧光一閃，樊雅手中的刀不翼而飛。樊雅驚慌地問：“你使的可是聞雞起舞劍法？”祖逖道：“小試牛刀而已。”樊雅懼怯而退。參軍桓宣對樊雅說：“前殷乂輕薄，非豫州大人的本意。今若和解，則功勳可立，富貴可保。若猶固執，在聞雞起舞劍法麵前難保善終。”樊雅考慮片刻，出城歸降。