馬謖來到街亭後，巡視了一番，對諸葛亮讓他防守這裏不屑一顧。他暗想，丞相實在是過於多慮了，這麼偏僻的地方，魏軍不可能來攻擊。部下王平看到馬謖並沒有做任何部署，就勸他趕快到山下布陣。
馬謖不以為然地說：“哪用得著去山下布陣？你沒看到前麵有一座孤山嗎，這正是上天賜給我們的屏障，我們隻要在那山上駐紮就萬無一失了。兵法說：‘憑高視下，勢如破竹’。”
王平說：“參軍如此想就錯了，那座山前無進路，後無退路，萬一魏軍在山下團團包圍，斷了我們的水源，我們就無力反抗了。請您按照丞相吩咐，依山傍水，巧布精兵。”
馬謖不僅不聽勸阻，反而嘲笑說：“馬謖通曉兵法，世人皆知，連丞相有時還得請教於我，而你王平生長戎旅，手不能書，知何兵法?置死地而後生，這是兵家常識，我將大軍布於山上，使之絕無反顧，這正是致勝之秘訣。”王平再次勸阻，馬謖不再理會他，徑自將大軍布於山上。
張郃進軍街亭，偵察到馬謖舍水上山，心中大喜，立即揮兵切斷水源，掐斷糧道，將馬謖部隊圍困於山上，然後縱火燒山。蜀軍饑渴難忍，軍心渙散，不戰自亂。馬謖乘著混亂，迅速逃走。
此時，據守在箕穀的趙雲、鄧芝也被曹真攻打得有點招架不住，但是趙雲及時把軍用倉庫所在地，赤崖以北的棧道全部燒毀，使魏軍無法繼續追擊。同時他極力保護軍備，沒有造成太重大的損失。
諸葛亮非常懊悔當初沒有聽從劉備不可重用馬謖的勸告，後又不顧眾將的反對執意命馬謖守街亭，才導致這樣不可彌補的損失。現在按照軍法，也不得不處死馬謖。
臨刑前，諸葛亮流著眼淚對他說：“我屢次囑咐你，街亭是我們勝敗的關鍵，要全力防守，你卻自以為精通兵法，不聽勸阻。如今軍敗將亡，這全是你一人之過。今天我如果不殺你，又怎麼能平服眾人的怒氣？”
說完，便命左右侍衛將他拖出斬首，馬謖嚎啕大哭道：“丞相待我如子，我也視丞相為父，如今我是死有餘辜，但願丞相能像寬厚待我一樣，多照顧我家中的婦孺。”
諸葛亮對馬謖說：“我和你情同手足，你的孩子便是我的孩子，你不必再多說了。”
左右侍衛將馬謖推出轅門，正準備要落刀時，參軍蔣琬恰從成都趕到，看到這種情形，忙命刀下留人，馬上晉見諸葛亮說：“春秋晉楚相爭的時候，楚國殺了兵敗的大將得臣，正中晉文公的下懷。如今天下還未平定，就殺掉馬謖這種人才，不是很可惜嗎？”
諸葛亮流著淚回答說：“從前孫武所以能夠製勝於天下，是因為軍律嚴明的緣故。現在四海紛爭，正要開始作戰，如果不嚴申軍令，如何能夠服眾呢？”
這時，侍從稟告已將馬謖斬首，諸葛亮聽後大哭不已，蔣琬問道：“馬謖既然罪有應得，丞相又為何如此傷心呢？”
諸葛亮說：“我並不是為馬謖而傷心，我隻是想起先帝在白帝城病危時曾提醒我，馬謖這個人言過其實，不能重用。今日果然應驗了先帝的看法，我追思先帝的聖明，懊悔不已！”
諸葛亮斬了馬謖後，同時擢升王平為參軍，統領南夷五部“飛軍”之兵。
趙雲、鄧芝的部隊也在箕穀戰敗，因為趙雲退兵時仍有部隊在後麵堅守，所以損失不大，但也因此被貶為鎮軍將軍。諸葛亮問鄧芝道：“街亭失利，大軍敗退，兵將不可收拾，但是箕穀戰敗部隊撤退，兵將依然齊整如初，是什麼原因呢？”鄧芝說：“趙雲親自在部隊後麵拒敵，軍需物資一點都沒有拋棄，兵將沒有緣由散亂。”
趙雲有軍資和剩餘的絹帛，諸葛亮想將其用來分給將士，趙雲說：“軍事上沒有勝利，為什麼要有賞賜，這些物資請全部存入赤岸庫，等到十月用作冬季犒勞品。”諸葛亮很讚同這個意見。
司馬懿一直是諸葛亮北伐的大患，由於之前魏國連連戰敗，曹睿命司馬懿帶兵與蜀軍相抗。諸葛亮聽聞這個消息後，又加上街亭失守，命大軍退回漢中，第一次北伐不得不暫停。