魏軍在西線大獲全勝後，在東線也轉入反攻，進攻屯兵於箕穀的趙雲、鄧芝部。此時蜀軍已得悉街亭慘敗的消息，全軍上下毫無鬥誌，被魏軍打得節節敗退。不過，趙雲畢竟是久經沙場的老將，他沒有像馬謖那麼慌張，而是且戰且退，部隊建製基本完好，沒有遭遇重大損失。
後來諸葛亮在總結兩次作戰經驗時，曾詢問鄧芝：“箕穀失利，部隊撤退時，軍隊編製仍相當完好，沒有出現街亭將不顧兵、兵不顧將的情況，這是為什麼呢？”鄧芝把功勞全歸於趙雲，他說：“趙雲親自斷後，各種軍需物資都沒有損失，士兵與將校犯不著慌亂。”按理說，諸葛亮這幾年大力練兵，軍隊紀律不至於差到撤退時潰不成軍。問題出在哪呢？街亭之戰，軍心之所以崩潰，在於將士們絕水多日，都掙紮在死亡線上，活命要緊，紀律顧不上了。趙雲的經驗就比較老到，糧食物資首先不能有閃失，否則軍心一旦動搖，將滿盤皆輸。
無論是主攻方向還是佯攻方向，都失敗了。
這一戰完全打亂了諸葛亮的計劃。前進已是不可能，在魏軍淩厲的攻勢下，想守也守不住。諸葛亮隻得完全放棄，匆匆撤回漢中。
轟轟烈烈的北伐，虎頭蛇尾，草草而終。
諸葛亮“明攻斜穀，暗出祁山”的計劃，與當年韓信“明修棧道，暗度陳倉”有著異曲同工之妙，都是采用迷惑手段拖住敵人主力，出其不意擊其軟肋。應該說，這個計劃是有效果的，在街亭之戰中，蜀軍是以眾擊寡，以逸待勞。本來穩操勝券之局，怎麼竟演變為一場大潰敗呢？
這裏我們要看看諸葛亮自己是如何分析的，戰後他這樣說過：“我們在祁山、箕穀的兵力都比敵人多，然而非但沒有擊破敵人，反而被打敗，問題不在於兵少，而在於將領。”
以多打少還打不贏，肯定是指揮出了問題。
諸葛亮要用鐵腕手段嚴厲治軍。
打了這麼一場丟臉的敗仗，當然得有人負責，這個人非馬謖莫屬。
馬謖指揮的失誤，直接導致街亭之戰的失利，這是毋庸置疑的。在他的指揮下，蜀軍不僅管理混亂，還放棄重要水源，這些都是失利的原因。戰後，諸葛亮把馬謖逮捕下獄，判處死刑，斬首示眾。殺了馬謖後，諸葛亮親自吊喪，為之痛哭，並撫養其遺孤。這就是諸葛亮“揮淚斬馬謖”的故事。
問題是，馬謖該不該死呢？
蔣琬是不讚成殺的，他說：“天下未定而戮智計之士，豈不惜乎？”
諸葛亮回答說：“孫武之所以能製勝於天下，是因為用法嚴明；晉悼公的弟弟楊幹犯法，魏絳殺了他的仆人；如今四海分裂，交戰剛剛開始，要是廢棄了軍法，憑什麼來戰勝敵人呢？”
我們來分析下諸葛亮講的有沒有道理。諸葛亮舉了兩位名將的例子，說明執法的重要性。一個是孫武，就是大名鼎鼎的《孫子兵法》的作者。據史載，孫武曾訓練吳王闔閭的宮女，這些宮女嘻嘻哈哈，不成體統，孫武在三令五申後，軍令不得實行，遂斬其隊長，也就是吳王的愛妾；第二個是春秋時代的晉國名將魏絳，晉悼公的弟弟駕著馬車在軍營內亂闖，他把馬車扣下，殺其仆從。
諸葛亮用這兩個人的例子來闡明殺馬謖的必要性，可是我們翻遍曆史，也找不到孫武、魏絳曾經擅殺大將的事，他們殺的是國王的寵妾以及國王弟弟的仆人，這跟殺馬謖可是完全不同的事情。
再者，諸葛亮嚴明軍法是對的，但馬謖犯了什麼法呢？我們說，馬謖犯了四個錯誤，其中隊伍混亂、丟棄城堡、忽視水源，這三條都不叫違法。唯一與違法有關的，是他沒聽諸葛亮的指揮調度。即便是這一條，能否判死刑，仍然成問題。既然諸葛亮坐鎮後方，前方將領當然有權根據戰場的情況作出獨立的判斷，故而向來有“將在外，君令有所不受”的說法。我們隻能說，馬謖對戰局的判斷有致命的錯誤，而不能說他是違反軍令。
作為前敵總指揮，馬謖對街亭戰敗負有不可推卸的責任，這點我們不否認。但是諸葛亮要負的責任更大。為什麼呢？《三國誌》中有一段話：“建興六年，亮出軍向祁山，時有宿將魏延、吳懿等，論者皆言以為宜令為先鋒，而亮違眾拔謖。”任命馬謖為先鋒指揮官，這就是諸葛亮的重大失誤，而且是他剛愎自用的結果。隻有諸葛亮把馬謖當作寶，其他人都認為應該以魏延、吳懿等有經驗的將領為先鋒將。諸葛亮不聽，一意孤行，把沒有多少實際指揮經驗的馬謖抬出來跟張郃交戰，這是悲劇發生的根本原因。
由於《三國演義》的極力渲染，大家都有一種印象，諸葛亮是非常高明的軍事家。不過，依據史實來看，諸葛亮並不是個好的統帥。諸葛亮北伐相較於曹丕的南征，並不高明多少，甚至更差。為什麼這樣說呢？曹丕南征，受阻於長江，有一次起了風暴，有一次河流結冰，多多少少受自然條件的限製。諸葛亮第一次北伐，軍隊要遠遠多於敵人，無論是在主攻方向還是在佯攻方向，人數上都占優勢，然而卻一戰即潰。這樣的失敗，著實無法向君主、向國人交代，隻能找個替罪羊。
馬謖，就成了這隻替罪羊。
除了馬謖之外，將軍李盛也被殺，另一名將軍黃襲被免職，連部隊損失不大、親自斷後的老將軍趙雲都被貶了一級。
當然，諸葛亮也裝模作樣，上書自貶三級，以右將軍身份代行丞相之職。雖然是自貶三級，但他仍舊是蜀國最大的官，權力一點也沒被削弱。
第一次北伐，是一次非常糟糕的軍事行動。
首先，策反孟達失敗了。策反失敗與諸葛亮也有關係，如果不是他給申儀通風報信，司馬懿是不會來得那麼快的。
其次，在戰略方向上，選擇了偏遠的祁山，雖然達到了“出其不意，攻其無備”的效果，無奈距離敵人心髒遙遠，魏國有足夠的時間派出援兵，令突襲戰失去意義。
再次，用錯了大將。馬謖應該留在大本營當參謀，而不是當先鋒大將。魏延最有資格當前敵總指揮，但由於提出自己的戰略主張，不為諸葛亮所重用。
最後，處罰太重。蜀國本就缺乏人才，隻因為一次敗仗，就殺了謀士，自毀長城。
這一次北伐行動出了這麼多差錯，至少諸葛亮要負很大責任。諸葛亮本人對此番失利也相當羞愧，在出其不意與人數占優的雙重優勢下，竟然被打得大敗，著實顏麵掃地。後來他總結說：“現在應當減少兵員與將校，該懲罰的懲罰，該反省的反省，以後要采取更多變通的辦法。如果做不到這幾點，兵力再多也沒用。從今往後，忠正之士應該勤於指出我的缺點，大家一起努力，則大事可成，國賊可滅，大功指日可待。”
隨著諸葛亮退出祁山，安定、天水，南安三郡的叛亂很快被關右都督曹真鎮壓下去。至此，諸葛亮的北伐顆粒無收。唯一所得，是天水參軍薑維前來歸降，他有膽有識，給諸葛亮留下了深刻印象，後來成為蜀軍的重要將領。