宋江與關勝、董平拿下了東昌府後，便與吳用帶了軍隊回鄆縣，按原計劃繼續攻打兗州，關勝與董平、張清、劉唐、張橫、楊雄、白勝、丁得勝、龔旺、皇甫端等人留在了東昌府，這時關勝便一麵派前去通知趙聰，一麵召集了眾兄弟，商議下一步出兵計劃，這時張清提出這裏位於淄、濟、兗、沂、密、青幾州之間，離州府都相距甚遠，如果我們打一個地方，其它幾個地方都可以來支援，但是如果我們兵分幾路，一舉拿下這幾縣城池，互相照應，他們便無力前來救援，附近有淄州的高縣、濟州的齊縣、兗州的東陽縣、沂州的沂平縣、密州的東密縣、青州的清風縣，幾人議定後便約定由關勝領八千士兵打高縣、張清與丁得勝、龔旺領八千士兵打齊縣、劉唐領八千士兵東陽縣、楊雄領八千士兵沂平縣、張橫領八千士兵東密縣、白勝領八千士兵清風縣，由於董平還要與程知縣辦喪事，便著董平與皇甫端領餘下士兵看守東平府與東昌府。
幾人議定後，便命士兵們休息一天，次日一大早，六支軍隊一齊出發，按前麵一天的計劃往各自的目標趕去，楊雄領軍攻打沂平縣，由於比較近，不到一個時辰便趕到了，縣城守將見楊雄軍隊氣勢洶洶，自知不敵，著人請了於知縣過來，於知縣見了如此場麵，見守將都沒有抵抗的信心於是直接請了楊雄入城，楊雄入城後立即派人去通知關勝，這邊白勝、劉唐、張清也兵不血刃拿下了清風縣、東陽縣、齊縣。
關勝剛剛趕到高縣，便來到了城門外叫陣，不一會兒孔知縣與縣府兵馬都監劉雲一起來到了城牆上，孔知縣見對方隻來了一員大將並士兵不足一萬，自己城內也有六千士兵，加上守將劉雲與副將幾員也可一敵，於是一邊著人去兗州府請救兵，一邊令劉雲出戰，劉雲得令立即率兵出了城門，關勝便令士兵一擁而上，自己來直衝劉雲，劉雲見關勝前來，自知不敵，叫上手下兩個副將助陣，於是關勝以一敵三，大打出手，這一打直打了不下三百回合，眾人皆已疲憊不堪，這時關勝手下副將吳剛趕了過來，舉起手中雕花大斧一斧一個砍下了劉雲的兩個副將，劉雲見狀掉馬頭轉準備跑，這時關勝見了單腳站上馬背，縱身一躍，手中大刀便望劉雲砍來，可憐這劉雲直接被關勝一刀砍成了兩截，孔知縣見狀立即叫住士兵們住手，並下城親迎關勝入城，並獻媚地說道：“早聞關將軍乃漢亭侯後裔，手持青龍偃月刀，可敵萬人，今日一見，果然名不虛傳，還請關將軍入城，下官已經準備好酒菜為將軍接風洗塵。”
關勝一見這孔知縣這副嘴臉心裏直想吐，隻是當時沒有發作，於是帶兵入了城，並派自己人接管了四麵城門，不一會兒，便見士兵來報，張橫帶兵攻打東密縣大敗，東密縣知縣早聞聽了消息就令人請了密州府兵馬都監黃立龍前來，大敗了張橫，於是張橫集結了逃出來的士兵不足三千人，在沂平縣城外五十裏左右紮營，便立即派人前來報信求援，關勝聽了便立即集合士兵，點了五千留給吳剛守城，自己則帶了三千士兵準備出城支援張橫，這時又來了幾路士兵來報信，說楊雄、白勝、劉唐、張清幾位將軍兵不血刃拿下了沂平縣、清風縣、東陽縣、齊縣。關勝聽了大喜，於是令那幾個報信的士兵回去，著楊雄、白勝、劉唐、張清幾位將軍各帶三千士兵趕去東密縣，並各留下五千士兵守城吩咐好一切關勝便領軍隊出發，直取東密縣。
關勝領軍來東密縣外，早有探子前來引路，與張橫會師時天色已黑了，於是關勝便命人燒火做飯，吃過晚飯後，關勝命士兵紮營紮成三座大營，營門口著重兵守夜，並在營外四個方向的道路上各安排了三路崗哨，營外每個方向五裏處一哨，十裏處一哨，十五裏處一哨，安排妥當後便令全軍歇下了，半夜，有探子來報，說有一大隊士兵從東密縣城方向趕來，而且並未舉火把，隻是憑著朦朧的月色趕來，關勝聽了，心中大喜，於是著士兵們都起來，並全部隱藏在三座大營後麵的山上，營內守衛務必舉起火把，加強巡邏，待敵軍全部進入營內，便合圍攻擊，以右營後麵關勝帶領的士兵喊殺聲為號。