於仲文的部隊到汴州的東倪塢，與尉遲迥的部將劉子昂、劉浴德等相遇，於仲文進擊而破之。於仲文軍駐紮在蓼堤，離梁郡七裏，檀讓擁眾幾萬。
於仲文用老弱挑戰，檀讓軍全部來拒戰。於仲文假裝失敗逃跑，檀讓軍很驕傲輕敵。於仲文於是派出精兵在左右兩翼出擊，大敗檀讓軍，活捉五千多人，斬首七百級。於仲文軍進攻梁郡，尉遲迥的守將劉子寬棄城逃走。於仲文率軍追擊，活捉、斬殺叛軍幾千人，劉子寬獨個逃走。
當初，於仲文在蓼堤時，諸將都說：“我軍從遠方來，人馬疲勞，不可立即決戰。”仲文卻令三軍立即吃飯，擺陣大戰。破敵以後，諸將都請教道：“此前，我軍疲勞，按道理不可交戰，最後反而克敵製勝，這是用的什麼計？”仲文笑著說：“我所率領的將士，都是華山以東地區的人，他們善於速戰速決，不應該打持久戰。乘勢進軍，我們所以能克敵製勝。”諸將都認為他們趕不上仲文。於仲文軍進擊曹州，活捉了尉遲迥所署的刺史李仲康和上儀同房勁。檀讓率餘部駐在城武，部將高士儒率萬人駐紮在永昌。於仲文裝模作樣下公文到各州縣說：“大將軍來了，你們可以積集點糧食。”檀讓還以為於仲文不可能馬上到，正在那裏殺牛犒賞人馬。於仲文知道他太大意，挑選騎兵襲擊他，一天便趕到了。於是，於仲文攻占了城武。
尉遲迥的部將席毗羅，擁眾十萬，駐紮在沛縣，將要攻打徐州。他的妻子兒女在金鄉。於仲文派人假裝是席毗羅的使者，對金鄉城的守主徐善淨說：“檀讓明天午時到達金鄉，將要宣布蜀公的命令，犒賞將士。”金鄉人信以為真，都很喜歡。於仲文挑選精兵，打起尉遲迥的旗幟，加速前進。徐善淨遠遠望見於仲文軍將到，還以為是檀讓來了，於是出城迎接。於仲文活捉了他，於是占領金鄉城。諸將大多勸於仲文屠城，於仲文說：“這裏是席毗羅起兵的地方，我們應寬待他們的妻子兒女，那麼，他的部下會自動回來。如果屠城，他們就絕望了。”眾人都說好。
於是席毗羅仗著人多勢眾，來逼近楚軍。於仲文背城布陣，在離陣幾裏遠的地方，在麻田裏設下埋伏。兩下裏剛剛交手，於仲文的伏兵就動手了，他們都扌曳著柴，鼓噪呐喊，塵埃飛揚得很高。席毗羅的部隊潰逃了，於仲文乘機追殺，賊人都投洙水而淹死，洙水因此而斷流。於仲文活捉了檀讓，用囚車把他送到京師。黃河以南地區全部平定。席毗羅藏在滎陽一戶民家，被捉來殺了，把他的首級傳到京師。
韋孝寬分兵討伐關東叛軍，全部平定。楊堅遷移相州治所於安陽，毀掉鄴城及其民房。又分割相州，設置毛州、魏州。