昭帝始元六年（公元前81年），出台一個重大舉措，在今河湟地區設置金城郡。這是一個大郡，從天水、隴西、張掖三郡各取二縣，加上原有轄地，一郡下轄十三縣，即允吾、浩門、令居、枝陽、金城、榆中、袍罕、白石、河關、破羌、安夷、允街、臨羌等，轄地涵蓋了今天蘭州市的黃河以南地區、臨夏、青海等河湟地區。其中，浩門、令居、枝陽、金城、榆中、允街六縣在今蘭州市轄區內。郡名取之金城，是因建郡之初，郡治設於金城縣城，即今蘭州市西固城。以此為據點，郡域又逐漸西擴，擴一步，鞏固一步，後來直接將郡治遷往允吾，即今青海民和縣古鄯鎮。
羌人丟了黃河穀地，現在湟水穀地也保不住了。允吾已是湟水腹地，為羌人的東大門，此地一失，使其隨時處在漢軍的威脅之下。優良牧場丟失，“田畜”範圍縮小，戰略要地易手，幾乎大門洞開了。羌人害怕了，也急了，但漢軍強大，打，無必勝把握，退，漢軍得寸進尺，又能退到哪去。
羌人和匈奴再次走到一起來了。匈奴退往漠北是不甘心的，可漢朝正處在強盛時代，急切問無從下手。共同的利益再次將兩家結為同盟。這次，是羌人主動找上門的，兩家一拍即合，決定先從漢朝西北邊界下手。這種選擇是有戰略眼光的，河湟地區離漢朝的腹地較遠，且隔著崇山峻嶺，大軍往來不便，而控製河湟，則可先得地利，或沿黃河東出，與漠北匈奴聯手，威脅漢朝北部邊疆，或沿渭水河穀直搗長安。即使做不到這些，也可固守要地，解除漢朝威脅。
計議一定，羌人便整備兵馬，待機而動。因不明漢軍底細，羌人便以小股馬隊四處騷擾，與先前一樣，發揮馬軍優勢，一得手，迅速退走，漢軍疲於應付，卻無應對良策。西北戰事一時陷於僵局。
仗終於打大了。
羌人騷擾漢界，漢人不堪其苦，漢人以牙還牙，也不斷侵擾羌地，羌人也不得安生。漢宣帝元康三年（公元前63年），宣帝派光祿大夫義渠安國巡視羌人各部，先零羌首領楊玉請求朝廷允許他們過湟水放牧，安國答應了。消息傳到朝廷，老將趙充國懷疑羌人有詐，上書指責安國“奉使不儆，引寇生心。”宣帝召回安國，拒絕羌人要求。楊玉大怒，聯合本部各部落，強渡湟水，占據漢朝邊地。邊郡無力禁止，二百多名羌人首領大規模會盟“解仇交質”，即消除冤仇，交換人質，共同對漢。有一酋長，竟派使者向匈奴借兵，企圖進攻鄯善、敦煌，以切斷漢朝通西域之路。
宣帝向趙充國問策，趙認為，羌人一旦與匈奴聯兵，而各部結盟成功，“到秋馬肥，變必起矣。”他提出，應先派員檢閱邊防部隊，令其積極備戰，同時，派人出使羌部，相機離間，散其同盟。宣帝準奏，派安國使羌。
這次，漢光祿大夫義渠安國到隴西後，采用欺詐手段，召集羌人三十多位部落首領開會，嚴詞譴責他們圖謀不軌，將其一齊處斬，又率大軍對羌人大開殺戒，一千多羌人死於非命，而蒙難者多為羌人平民和老弱婦幼。民憤已起，羌笛橫吹，匈奴人和羌人豪酋乘機發難，迅速組成一支大軍，向漢軍殺奔而來。闖了禍的義渠安國，親率三千精騎屯紮浩門（即今永登河橋），嚴陣以待。不料，羌人經幾十年臥薪嚐膽，這次又是挾怒而來，一鼓作氣，竟將漢軍三千鐵騎打得落花流水。義渠安國嚐到了羌兵厲害，慌忙率殘部退往令居，一邊深溝高壘固守自保，一邊申奏朝廷請求發兵。
此時，漢朝正逢國喪，昭帝駕崩，宣帝初登大寶。漢朝自武帝晚年已從強盛的高端跌下來了，昭帝雖可勉強維持局麵，但內憂外患，漢朝雄風難再。宣帝是有作為的皇帝，可是，任何作為都是要有物質和精神基礎的，國庫空虛，水旱頻仍，許多地方已經民不聊生，朝堂上，大臣之間，內宦與外臣間，帝黨與戚黨間，你爭我奪，互不能下，一時腐敗公行，國勢不振。宣帝急於扭轉這種局麵，而邊關軍情乃刻不容緩之事。
七旬老將出馬：安邊還看趙充國
有道是，內事不決問相，外事不決問將。這是對皇帝說的。一個有作為或想有作為的皇帝，最起碼的要做到這點。西北邊關出事了，邊關無小事，一個小小的衝突都有可能導致兵連禍接國本搖動。義渠安國逞奸施詐，妄殺羌人，羌人同仇敵愾是當然選擇。羌人各部本非鐵板一塊，內部矛盾重重，安國的濫殺行為，成為羌人聯合反漢的催化劑。
情勢危殆，舉朝惶恐，議論紛紛，莫衷一是。這時，漢宣帝想起了熟悉邊務，又老成持重的趙充國。
趙充國何許人也？
趙充國原籍隴西人，後移居金城令居。少有大誌，研習兵法戰略，留心邊防，初以“良家子”參軍為騎兵，因善騎射被選入羽林軍，守衛皇宮。天漢二年，漢武帝下詔征討匈奴時，趙充國以代理司馬身份，隨貳師將軍李廣利出師酒泉，攻擊匈奴右賢王部，被其大軍包圍。流沙千裏，黃塵漠漠，匈奴對漢軍圍而不打。趙充國判斷，匈奴意圖有二：一者困死漢軍，一者迫降漢軍。於是，他建議，趁漢軍尚未疲憊突圍而出，並自告奮勇為前驅。