蜀漢鞏固了在西南地區的統治以後，為了實現國家的統一。在公元228年，發動了北伐曹魏的戰爭。孔明揮淚斬馬謖的故事，就發生在這次戰爭的末尾。
馬謖，字幼常，是劉備在荊州時，伊籍向他推薦的謀事。此人天資聰穎，自幼熟讀兵書，頗知兵法，但恃才自傲，不能謙虛待人。劉備在白帝城臨終托孤時，曾對諸葛亮說：我看此人，言過其實，不可大用，要深入考察。雖然諸葛亮當時點頭稱是，但未改變對馬謖的好評，而且在劉備死後更加器重他。
魏國皇帝曹丕死後，曹叡繼位，任命司馬懿為驃騎大將軍，統率雍州、西涼等州的兵馬。諸葛亮知道他善用兵，想先發製人討伐他。但馬謖認為，蜀軍南征凱旋回師，急待休整，不宜勞師遠征，不如采用反間計，散布司馬懿要廢新君、另立皇帝的流言蜚語，使曹叡懷疑他，不信任他，甚至殺掉他。諸葛亮采用反間計以後，曹叡果然懷疑司馬懿謀反，剝奪了他的兵權。這件事又增加了馬謖在諸葛亮心目中的地位。
當諸葛亮平定南方後，回師北征要攻取長安時，曹叡知道自己誤信反間計，又起用司馬懿率兵迎戰蜀軍。
當時秦嶺之西有一條路，地名街亭，傍邊有個列柳城，這兩個地方都是漢中咽喉，兵家必爭之地。在部署進軍路線時，司馬懿對部將說：“我軍直接攻打街亭，拿下這個地方，就離陽平關很近，可以切斷蜀軍糧道，蜀方隴西一線就難守住。蜀軍一定會趕忙撤回漢中，我軍把守住各個小路要塞，蜀軍無糧，月內必亂，諸葛亮就可被我軍活捉。”
諸葛亮知道司馬懿率兵前來迎戰，料定他會來取街亭，決定增兵防守。他在營帳中問：“誰敢領兵去守街亭。”馬謖立即說：“我願意去！”諸葛亮見是馬謖答應，心裏滿意，但仍嚴肅地說：“街亭雖小，事關重大，如果街亭失守，我們的大軍就算完了。你雖然深通謀略，但那個地方無城池，又無險阻，把守極為困難。”
馬謖很自信地說：“我自幼熟讀兵書，頗知兵法，一個小小的街亭豈能守不住？我敢立軍令狀，如果守不住街亭，殺我全家！”
諸葛亮雖然同意馬謖去守街亭，讓他領25000精兵前往，但仍不放心，又叫大將王平去協助他。諸葛亮說：“你生平謹慎，可要小心把守街亭，紮寨一定要在要道上，使魏兵不能偷過。凡事都要商量，不可輕率決定。如能確保街亭，可算攻取長安第一功。千萬小心！”
諸葛亮命令兩人領兵去後，反複思考一番還是放心不下，又派高翔和魏延領兵去接應他們，以防萬一，對各種可能發生的情況，都做了說明，這才稍微放心。
馬謖到街亭看地形以後，感到好笑：“丞相為什麼那麼多心？像這麼偏辟的山野地方，魏軍如何敢來？”王平說：“丞相再三囑咐，要小心防守，盡管魏兵可能不敢來，但還是在五路總口紮寨為好。命令將士趕快砍樹作成柵欄，作為長期防備。”馬謖說：“要道哪裏是紮寨地方？你看旁邊有座孤山，異常險峻，林木遍地，是個天然屯兵的好地方。”
王平極力反對說：“如果在要道上紮寨，築起城垣，魏軍縱有十萬也休想越過。要是屯兵山上，魏兵突然殺來，四麵圍住，街亭就難保住。”馬謖大笑，說他不懂兵法：“兵法書上說過：居高臨下，勢如破竹。如果魏兵敢來，我就殺他個落花流水，有來無回！”王平耐心地勸說：“我多次隨丞相出征，受益很多，眼前這座山是個孤立無援的絕地，如果魏軍四麵圍來，斷絕水道，我軍會不戰自亂。”
馬謖依然不聽，繼續說：“你不懂兵法。孫子說過：‘置之死地而後生’，如果魏兵切斷水道，蜀軍士兵就會以一當十，以十當百，拚命死戰。我熟讀兵書，丞相很多事都要問我，你別妨礙我，別再爭論了。”