王平見無法說服馬謖，隻好說：“如果參軍堅持要在山上紮寨，請給我一部分人馬，我到山的西麵紮個小寨，好與你互相呼應，萬一魏兵來攻，可以互相支援。”
馬謖不肯分兵給他。但就在這時，山中居民蜂擁而來，說魏兵大隊就要衝殺過來。馬謖見王平要走，很勉強地說：“好吧！你不願聽我的命令，我給你五千人馬自己去紮寨吧！等我打敗了魏軍，你在丞相麵前可別爭功！”
王平在離山十裏的地方紮了一個小寨，並畫成圖本，派人速送諸葛亮，報告馬謖不聽勸說，堅持紮寨山上的情況。諸葛亮一見圖本，知道馬謖放棄要道，占山為寨，不禁拍案大驚：“馬謖無知坑害了我的軍隊了！”他對左右的人說：“如果魏兵四麵包圍，斷了水源，不要兩天，我軍不戰自亂。如果街亭失守，後路切斷，如何安全撤退？”正在諸葛亮著急時，有人來報緊急軍情：“街亭失守！”諸葛亮氣得頓足，歎氣說：“敗局已定，大勢已去，都怪我用人不當，過錯真大啊！”他隻好采取緊急措施，應付突然事變，命令蜀軍先撤回漢中。
原來司馬懿決定直取街亭以後，立刻派他的兒子司馬昭帶兵察看了前路情況，知道馬謖未在要道紮寨，而是據孤山防守，立即調兵四麵包圍街亭，切斷水源，蜀兵果然不戰自亂，無法堅守，三天之內司馬懿就輕易地奪取了這個戰略要地——街亭。
馬謖與王平敗回漢中，諸葛亮先要王平入帳問話，責問他為何不勸阻馬謖。王平隻好將自己如何勸說，馬謖頑固堅持己見和戰鬥經過詳述一遍。最後說：“丞相不信，可問各路將領。”
孔明命王平退下，傳馬謖入帳。馬謖知道違了軍法，無法活命，自己縛了自己，跪在帳前。諸葛亮一見到他，臉色立變，責備他說：“你自命飽讀兵書，熟知兵法，我多次告誡你，街亭是我軍根本。你以全家性命擔保，接受重任。你如果聽從王平勸告，就不會有此結果。如果不嚴明軍紀，怎能服眾？你今犯法，不要怨我。你死以後，你家老小生活我會安排照管。”然後命令推出斬首。
突然，參軍蔣琬從成都來見諸葛亮，見要斬馬謖，連忙入帳為他說情：“從前楚國殺了名將成得臣，晉文公高興。現在天下未定，用人之際，殺去謀臣，豈不太可惜了！”
孔明淚水盈眶說：“曆史上孫武能戰無不勝，無敵於天下，就在於法度嚴明。現在天下紛爭，戰爭方起，如果法紀廢弛，如何打仗？馬謖死罪難饒，一定要殺！”
一會兒，武士將馬謖斬首，獻上首級，孔明見了，又痛哭不停。蔣琬深感納悶不禁問道：“馬謖已經斬首，丞相為何痛哭？”
孔明說：“我不是哭馬謖之死。我想起先帝在白帝城托孤時叮囑我：‘馬謖言過其實，不可大用！’今天果然如此。我深恨自己沒有知人之明，想起了先帝，因此痛哭！”
大小將士聽諸葛亮這樣一說，都難受得落淚。
馬謖被斬首後，諸葛亮對街亭戰役中有功的王平給以封賞，讓他代替馬謖為參軍，封為討寇將軍。但他對自己卻痛加責備，他上書後主劉禪，請求貶官三等。他還公開發出文告，承擔了失敗的責任。
諸葛亮這種執法如山，不講情麵的嚴明公正的作風和嚴於律己的品質一直被人們傳頌著。