公元前408年，魏文侯設立西河郡，吳起被委任為西河郡守，這是他軍事生涯裏非常重要的一件事。
如果說這之前吳起奪取西河，秦國人還可以解釋說，這是自己大意了，那麼從此開始，他們將真正見識吳起的實力。吳起的軍事思想，比起之前曆代兵家來，有一個十分具有現實意義，今天也振聾發聵的亮點：軍事建設。
在他的軍事理念裏，臨陣指揮固然重要，但是決定勝負的關鍵卻是準備情況與經濟情況。所以在軍隊建設上，吳起采取了開發水利、儲存軍糧的措施，同時對於麾下的軍隊進行精簡。他編選出了由精銳士兵組成的“武卒”，在戰國早期，武卒是一支戰鬥力超級恐怖的步兵軍團。
凡是被選入武卒的魏國士兵，都是可以拉20石強弩，並且具有高耐力奔跑能力的精兵，對他們不但免除全家的賦稅，更給予優厚的國家補償。所以在當時的魏國軍隊裏，作為一個士兵能夠入選武卒，不僅僅意味著這個家庭的生活狀況可以從此大變樣，更意味著一種無上的榮譽。
從那時候起，魏國軍隊的士兵們開始苦練殺敵，上演士兵突擊的勵誌故事，人人都為能夠成為武卒而努力。與此同時，吳起非常重視邊境的生產，多年以來他采取屯墾政策，命令士兵們戰則為兵、歸則為農，在當地積極發展生產。所以他到任沒幾年，西河當地就出現了倉儲豐厚、經濟富庶的局麵。
正是這樣的運作模式，不但造就了魏國的強大，而且富有諷刺意味的是，後來全盤學習吳起這一整套帶兵模式的，正是商鞅變法後的秦國。當然，這是後話。
此時的秦國，非但還沒有學習吳起的覺悟，相反正在眼紅中：從吳起就任西河郡守之後，秦帝國就頻繁地調集重兵，意圖一舉奪取西河。這時候的魏國，在西河地區很少采取主動出擊的戰略，當時魏國的重兵，大都集中在東線，用於對齊國和楚國的作戰，所以吳起基本得不到中央支援。
西河麵臨著極其巨大的戰爭壓力，但是吳起不懼，他鎮守西河的時間長達27年，在這27年中，他和西北的秦帝國經曆了大小戰鬥一共96場，其中76場取得了勝利，剩下的20場是平手，可以說是真正意義的“不敗將軍”。
其間，秦帝國曾經幾次不惜血本，發動舉國兵力對西河地區進行東征，特別是在公元前389年，發生了曆史上著名的陰晉之戰。這一年秦國動用了舉國50萬大軍，屯兵在山西陰晉，計劃一舉東進，拿下整個河西地區。
當時魏文侯已經去世，即位的魏武侯非常驚慌，身為西河郡守的吳起卻不慌不忙。多年以來，他早就在當地采取了種種措施，比如設立軍功獎勵製度、激勵士兵殺敵，而且每次戰後，都要舉行大規模的慶功活動，表彰戰爭中的死難者，所以每次有戰爭發生的時候，西河當地魏軍，大都把打仗當成一種榮譽，甚至好多人連盔甲都來不及穿，就急急忙忙地要求投身戰場。所以秦國人雖然多，在求戰欲望高漲的魏國人眼裏，也隻不過是一盤肥肉而已。
吳起知道，要啃下這塊肥肉不容易，為了保證能夠一戰必勝，吳起做足了文章，首先抓住了秦軍人數雖多，但是軍隊部署分散，容易各個擊破的弱點，決定集中優勢兵力打殲滅戰。其次就是這次參戰的士兵，除了少數老兵之外，大多數都是從來沒有立過軍功的新兵，這些人雖然作戰經驗不足，但是立功心切，求戰欲望極其強烈，吳起本人也以身作則，親自帶領軍隊衝在第一線。
他甚至頒布命令，做騎兵的一定要看護好自己的馬匹，做戰車兵的一定要看護好自己的戰車，如果戰後發現騎兵丟了馬，戰車兵丟了車，就算是建立了戰功也不予表彰。然而這樣做是有道理的，秦軍人多，而魏國士兵作戰經驗有限，所以必須要保證從軍令上限製士兵們的無意義作戰，集中兵力消滅敵人。戰鬥打響後，魏軍各個以一當百，奮勇衝殺，結果秦軍五十萬大軍全線崩潰，五萬魏軍一路掩殺，打得秦國軍隊屍橫遍野。在戰國的曆史上，這是秦國軍隊遭到的最慘痛失敗之一。
吳起鎮守西河的27年，是魏文侯改革後魏國的黃金27年，這27年的魏國，西邊死死地摁住了秦國，南邊痛打楚國，東方掃蕩七國，同樣屬於三晉國家的趙國和韓國，也拜服在魏國的腳下。而鎮守西河的吳起，也成了這個強大的吳國的西北屏障。
吳起是不滿足做屏障的，他更想高升一步，特別是在魏武侯即位後，當時魏文侯改革時期的傑出人物，許多都已經去世了，而吳起本人也很賣力表現，除了屢次擊敗秦國之外，還曾經多次大膽進諫。作為一個名將，吳起卻不主張輕率發動戰爭，甚至有一次魏武侯視察西河，讚歎魏國的大好河山時，他不但不應和，反而說出了一句很經典的話：“國家的安危，在德不在險。”也就是說，在發動戰爭上，國家一定要慎重，國家的強大，靠的是“德”而不是險，從這些思想上可以發現，雖然已經是此時戰國最傑出的武將，建功無數的吳起，從根本上來說還是一個儒生。
魏國的政治，一直有“出將入相”的傳統，外加當年吳起的“前嶽父”田居也曾預言吳起將出將入相，現在出將實現了，吳起也就開始憧憬“入相”了。這時候機會也來了，當年曾經向魏文侯舉薦吳起的丞相西客去世了，魏國的相國之位一下子出現了真空，按照吳起的想法，自己鎮守西河27年，功勞苦勞一大把，就是排也該排到自己了，但是魏武侯卻不是這麼想的，最後繼任相國職位的，卻是在吳起眼裏遠不如自己的商文。
這個商文是當時的魏國貴族，在吳起看來，他不過是靠了裙帶關係才當上丞相的，直到兩人發生了一次對話。吳起在回京的時候，氣勢洶洶地質問商文，先問帶兵打仗你比我強嗎？又問治理地方你比我強嗎？讓士兵擁戴，並且誓死效力，你比我強嗎？三聲發問，商文都是好脾氣，連著都說“我不如你”，吳起得了理，立刻嚷嚷起來，那你憑什麼當相國？