漢靈帝中平元年（184年）十一月，胡人北宮伯玉與先零羌聯合起兵反漢，以北宮伯玉為將軍。雖然有數萬人馬，但是缺乏能征善戰的大將。北宮伯玉正在犯愁時，有人舉薦說榆中人邊章、韓遂“素有膽略，在西州一帶聞名”，如能得到這兩人，何愁軍中無將！北宮伯玉求將心切，便“先兵後禮”，派人把邊章、韓遂劫人軍中。恰好，邊、韓二人也有舉事的心思，他們不謀而合，北宮伯玉當即委以邊章、韓遂重任，讓其主持羌胡聯軍的軍事。
邊章、韓遂率領聯軍一路攻州克郡，勢如破竹，不日來到金城。金城太守陳懿急忙組織守軍頑抗，但無濟於事，不到兩個時辰，守軍潰敗，混亂中陳懿被聯軍殺死。隨後，東漢護羌校尉伶征率兵圍剿聯軍（為了加強對羌族人的防禦，漢朝政府特設立護羌校尉，專門負責管理河湟一帶羌事），結果伶征也被聯軍殺死。
漢靈帝中平二年（185年），北宮伯玉等率兵大舉東進。
邊章、韓遂率領部分東進軍到達三輔（今陝西關中地區）時，朝廷派皇甫嵩率軍趕來，雙方展開一場惡戰。由於邊韓軍一路奔波，還沒有來得及休整，同時孤軍深入，缺乏後援，糧草短缺，結果吃了敗仗。邊韓軍回撤。
其後，東漢王朝又派司空張溫代理車騎將軍，召中郎將董卓，封為破虜將軍，歸張溫指揮，征討邊章、韓遂。
因為張溫上奏請求招孫堅部前來助戰【孫堅原來是當參軍的，因為討伐黃巾軍中功勳卓著，隻好成為獨立的一軍加入戰局】於是孫堅部所有人包括胡家一起來到了羌陽官軍營。張溫率部駐紮長安，用詔書召見董卓，董卓拖延時間，過了好半天才來。張溫責備他：“鍾穎，為何這麼慢，耽誤了軍情你承受得起嗎？”董卓一副不在乎的樣子，漫不經心的的說道：“代理車騎將軍，您是大將軍，在下不是，在下隻是一個中郎將，再說，這一刻中能耽誤什麼軍情，您擔心的太多了。”當時，孫堅正好在座，見此情形，便走到張溫旁邊，跟張溫耳語，勸他誅殺董卓。孫堅說：“明公親率王兵，威震天下，何賴於卓？觀卓所言，不假明公，輕上無禮，一罪也。章、遂跋扈經年，當以時進討，而卓雲未可，沮軍疑眾，二罪也。卓受任無功，應招稽留，而軒昂自高，三罪也。古之名將，仗鉞臨眾，未有不斷斬以示威者也。是以穰苴斬莊賈，魏絳戮楊幹。今明公垂意於卓，不即加誅，虧損威刑。於是在矣。”張溫仍然不肯采取行動，對孫堅說：“君且還，卓將疑人”孫堅深深的看了一眼張溫，暗自歎息一聲就走了。
張溫調集各州郡兵馬，約十多萬人，進駐羌陽（今陝西武功縣西）。
羌陽官軍越騎校尉營之中。
孫堅將當時的情形說了一遍與大家，歎息道：“張將軍用此人，此戰不大好勝啊。”
程普說道：“將軍不必擔心，想那董卓定有些實力，不然朝廷不會叫他來討伐羌人叛亂。我們人少，隻有五千，還是不要太冒險才好。”