說起諸葛亮用人上的最大失誤，那就數錯用馬謖守街亭了。
馬謖是諸葛亮一手提拔的年輕才俊，諸葛亮視之如子，誠然，他身上有一些超人的能力，但也有劉備所說的“言過其實”之類的缺點。他的專長是在謀略和策劃方麵，這一點從諸葛亮南征時他的獻策即可明白。當時，諸葛亮有意向他谘詢南征夷越的大計，馬謖經過一番分析，提出“攻心為上，攻城為下，心戰為上，實戰為下”的策略。馬謖的這個策略與諸葛亮的南征宗旨不謀而合，事實也證明了“攻心為上”的正確性。可以說，“善論軍計”的確是馬謖的專長。或許，正是出於對馬謖的賞識，諸葛亮才會在北伐中對他予以提拔和重用。
北伐之時，馬謖是主力參謀總部的主要成員，應該說，他的主要任務還是在參謀方麵。
當時，蜀軍已經攻陷涼州三郡，曹魏方麵大為震驚，於是派左將軍張郃全力西征，以阻止蜀軍的攻勢。張郃率領大軍直襲涼州，於是諸葛亮召開緊急軍事會議，決定在祁出東北的咽喉要地街亭迎擊越山而來的張郃軍團。可以說，街亭一戰是蜀、魏兩軍勝敗的關鍵，所以，蜀軍方麵派遣守街亭的大將就顯得至關重要。
北伐軍的參謀本部一致認為魏延是最為合適的人選，因為他不僅能獨當一麵，更有鎮守漢中、衝鋒陷陣的作戰經驗，而且，魏延本來就是此次北伐的前軍總指揮。然而，諸葛亮卻對此一票否決，出人意料地將毫無實戰經驗的馬謖捧了出來，而且引經據典，搬出一大堆兵法理論，認為馬謖比魏延、張嶷等合適。就這樣，馬謖被諸葛亮捧上了守街亭的“高度”。
可是，馬謖的確不是軍事方麵的人才，這一點諸葛亮意識到了。所以，他為其安排了一個專業助手——有蜀漢“鐵衛”之稱的王平。因為王平不僅勇猛無敵，而且向來謹慎而又果斷。同時，諸葛亮對馬謖千叮萬囑，又搬出“軍令狀”，以期馬謖不負重托。然而，諸葛亮忘了馬謖後來說的那一句話：“將在外，君命有所不受。”
馬謖一到街亭，就違背了兵法，“失卻要路，占山為空”，並且稱什麼《兵法》有雲：“高山勿仰”之類，想要以此對張郃產生壓力。審慎的王平自然不讚成馬謖的用兵之法，因為萬一戰事拖長，魏軍攻來，四麵圍合，則駐守在祁山的蜀軍的飲水問題都難以解決。可是，馬謖一意孤行，即使在王平搬出諸葛亮的事先囑咐時，他還是堅持己見，當然，他也沒有忘記引用“兵法”上的那句“將在外，君命有所不受”的話。看來，他和“紙上談兵”的趙括可以結拜了。
張郃當然不會“高山勿仰”，他以為諸葛亮所倚重的馬謖會難以應付，不料馬謖竟然是“空有其名”。正如王平所料，魏軍攻入街亭平原後，將祁山上的蜀軍團團包圍，切斷了蜀軍水源。不出兩日，山上的蜀軍幾乎崩潰，馬謖知道大勢已去，遂率領本營軍下山突圍，投奔當初駐守在街亭西北角的王平處。幸得王平臨亂不驚，親自斷後，掩護馬謖撤退，使蜀漢的軍隊損失減到最低。
街亭一失，蜀軍大勢已去，諸葛亮被迫撤軍。首度北伐就遭到這種本不該有的挫敗，這是誰的錯？損兵折將，前功盡棄，消耗大量軍用物資，涼州三郡也轉手送給了曹操……真是損失慘重啊！諸葛亮，這一失誤不可饒恕，難怪他要“自貶三級”呢。但是，即使如此還是於事無補，同樣，隨後的“揮淚斬馬謖”也無濟於事，而且簡直是“多此一舉”。