公元231年（建興九年）春天，諸葛亮複出祁山，舉行了第四次北伐。這一次，諸葛亮以“木牛”（一種靈便的獨輪車）運送軍糧，首戰即打敗了西救祁山的魏軍郭淮、費曜，並借機芟割鹵城一帶的熟麥。魏國派司馬懿率軍迎戰，諸葛亮與司馬懿相遇於上邽（今天水市秦城區）之東。但魏軍斂兵依險，蜀軍久不得交戰，於是，諸葛亮遂引兵還保祁山。司馬懿原本不肯交戰，後因部下笑他“畏蜀如虎”，才自己率軍取中道（赤峪溝往天水鎮一道）擊亮，而令張郃追蜀軍至木門。木門在今天水市秦城區西南牡丹鄉的木門村（一說在禮縣鹽官鎮羅家堡村境內），其地兩山夾峙，空穀一線，為略陽至祁山的必經之道，故又稱“木門道”。道長約500米，寬約50米，地形十分險要。諸葛亮在撤退時，早於木門東山埋有伏兵，待張郃追至，萬箭齊發，“飛矢中郃右膝”，遂射殺張郃。與此同時，蜀將魏延、高翔、吳班等也於中道大破魏軍，逼使司馬懿還保上邽。
此次北伐，兩路魏軍均未得逞，但諸葛亮最終還是退回了漢中。原來當諸葛亮與司馬懿對壘上邽之際，蜀中負責運送軍糧的李嚴因害怕糧秣誤期而受諸葛亮責罰，竟假傳後主劉禪之旨，要諸葛亮回師。加之軍中糧盡，諸葛亮也不得不暫時收兵。這樣，原本很有希望的第四次北伐又夭折了。
建興十二年（公元234年）春，諸葛亮再率10萬大軍，由褒斜道出斜穀，占據五丈原（今陝西眉縣西南斜穀口西側），舉行了他生前的最後一次北伐。但與司馬懿對壘百餘日之後，諸葛亮卻因勞累過度，於這年的農曆8月28日病逝於軍中，終年54歲。一代忠臣良相殉職，千古智慧之星隕落，諸葛亮的隴右之行也到此為止。
據說在諸葛亮逝世的那天晚上，有一顆發著紅光的流星，自東北向西南方向流動，三起三落，最後變小，投於諸葛亮營中。此事首見於東晉孫盛的《晉陽秋》一書，而今天五丈塬諸葛亮廟內正殿側牆鑲的一塊石頭，據說就是當年那顆流星的隕石，經附近落星灣的居民世代保存下來的。是民俗附會，抑或天文現象的巧合？這隻有留待天文學家們去解開這個謎了。不過，這並不妨礙人們稱諸葛亮為“巨星”，稱諸葛亮的死為“大星隕落”。
至於諸葛亮究因何疾而終，疑不能明。近人或謂肺結核，或謂胃癌，或謂胃潰瘍大出血，實皆緣“嘔血”而立論。“嘔血”之事見王沈《魏書》，且謂“亮糧盡勢窮，憂恚嘔血，一夕燒營遁走，道發病卒”。然為《三國誌》作注的裴鬆之已辯其妄。裴鬆之雲：
亮在渭濱，魏人躡跡，勝負之形，未可測量。而雲“嘔血”，蓋因亮自亡而自誇大也。夫以孔明之略，豈為仲達嘔血乎？及至劉琨喪師，與晉元帝箋亦雲“亮軍敗嘔血”，此則引虛記以為言也。其雲入穀而卒，緣蜀人入穀發喪故也。
其說甚辯，今人似不宜再“引虛記以為言也”。
綜觀諸葛亮的北伐，其在甘肅留下的足跡主要集中於今天的天水和武都地區。像西和的建威（今西和縣城附近），禮縣的祁山堡、鹵城（今鹽官），天水市的天水關（今天水鎮北），木門道（牡丹鄉木門村）、西城（祁山與大堡子之間）、上邽（今天水市秦城區）等地，諸葛亮皆曾親曆，並留下了不少的遺址和傳說。如祁山堡附近的“諸葛亮上馬石”、“諸葛九寨”（傳為蜀兵積土假充糧堆），天水城東俗稱陳家磨處的“諸葛軍壘”（傳為蜀兵每人握一把土堆置而成），及流傳於木門村一帶的“木門矢髀”故事，皆是。至於街亭（今秦安縣隴城鎮），諸葛亮雖未親至，但蜀軍的首次北伐受挫及孔明的“揮淚斬馬謖”，都與街亭之失是分不開的。所以，我們今日要追尋諸葛亮在甘肅的足跡，街亭當然也是不可忽視的。