北伐曹魏，統一全國，是諸葛亮早就定下的奮鬥目標。與東吳恢複聯盟關係，平定南方的叛亂，內部也較為安定的局麵給諸葛亮的北伐計劃提供了良好的條件。
建興四年（226年）五月，曹丕病死，太子曹睿繼位，諡父丕為文皇帝，其餘的文武官僚，都有封贈。當時雍州、涼州兩地缺乏人守，司馬懿上奏自請到西涼等處防守，曹睿允許了他的請求，便封司馬懿督導提督雍州、涼州等地的兵馬。
建興五年（227年），諸葛亮率大軍離開成都，向北進軍，伺機而動。之前，諸葛亮任命郭攸之、董允、費褘等為侍中，負責宮中的事，並且又派將軍向寵總督禦林軍馬。他自己則率領了趙雲、鄧芝、魏延、吳壹、向朗、楊儀、馬謖等大將和近十萬大軍北伐。臨行之際，他上表後主。這就是享譽古今的《前出師表》。
先帝創業未半而中道崩殂。今天下三分，益州疲弊，此誠危急存亡之秋也。然侍衛之臣不懈於內，忠誌之士忘身於外者，蓋追先帝之殊遇，欲報之於陛下也。誠宜開張聖聽，以光先帝遺德，恢弘誌士之氣，不宜妄自菲薄，引喻失義，以塞忠諫之路也。
宮中府中，俱為一體，陟罰臧否，不宜異同。若有作奸犯科及為忠善者，宜付有司論其刑賞，以昭陛下平明之理，不宜偏私，使內外異法也。
侍中、侍郎郭攸之、費禕、董允等，此皆良實，誌慮忠純，是以先帝簡拔以遺陛下。愚以為宮中之事，事無大小，悉以谘之，然後施行，必能裨補闕漏，有所廣益。
將軍向寵，性行淑均，曉暢軍事，試用於昔日，先帝稱之曰能，是以眾議舉寵為督。愚以為營中之事，悉以谘之，必能使行陣和睦，優劣得所。
親賢臣，遠小人，此先漢所以興隆也；親小人，遠賢臣，此後漢所以傾頹也。先帝在時，每與臣論此事，未嚐不歎息痛恨於桓、靈也。侍中、尚書、長史、參軍，此悉貞良死節之臣，願陛下親之信之，則漢室之隆，可計日而待也。
臣本布衣，躬耕於南陽，苟全性命於亂世，不求聞達於諸侯。先帝不以臣卑鄙，猥自枉屈，三顧臣於草廬之中，谘臣以當世之事，由是感激，遂許先帝以驅馳。後值傾覆，受任於敗軍之際，奉命於危難之間，爾來二十有一年矣。
先帝知臣謹慎，故臨崩寄臣以大事也。受命以來，夙夜憂歎，恐托付不效，以傷先帝之明，故五月渡瀘，深入不毛。今南方已定，兵甲已足，當獎率三軍，北定中原，庶竭駑鈍，攘除奸凶，興複漢室，還於舊都。此臣所以報先帝而忠陛下之職分也。至於斟酌損益，進盡忠言，則攸之、禕、允之任也。
願陛下托臣以討賊興複之效，不效則治臣之罪，以告先帝之靈。若無興德之言，則責攸之、禕、允等之慢，以彰其咎。陛下亦宜自謀，以谘諏善道，察納雅言，深追先帝遺詔。臣不勝受恩感激。
今當遠離，臨表涕零，不知所言。
諸葛亮在表中坦率地指出了在魏、蜀、吳三國相爭中，蜀國所處的不利局麵，希望劉禪能積極進取，奮發圖強，完成統一大業。
由於北伐的緣故，蜀國的軍政中心也移往漢中，有半數以上的官員和將士都駐守在此。從這時候起，諸葛亮在此指揮作戰，直到他死時為止，恰好在此地駐守了八年。在這八年之中，他先後帶著大軍向魏軍攻擊六次。
建興六年（228年）春，諸葛亮為穩妥起見，沒有采納大將魏延從近處偷襲長安的作戰方案，而是用聲東擊西的策略。他揚言要由斜穀出兵攻打郿城（陝西郿縣），並派趙雲、鄧芝兩將率一軍故布疑陣，實施障眼法。然後他卻率領主力大軍前往攻擊祁山。祁山是攻取長安的軍事要點，諸葛亮抱著誌在必得的決心。不久，祁山就被這支軍紀嚴明的部隊輕鬆地攻取了。祁山附近的三郡：天水（甘肅渭川）、安定（鎮原）、南安（隴西東北）也都相繼歸順諸葛亮。
劉備逝世後，蜀國一直在整頓內部，接著又平定南方，很久沒有與魏國相爭了。魏國漸漸對蜀國疏於防備。諸葛亮占領祁山後，漢明帝曹睿慌了，他親自到長安，命令張郃率領大軍前往攻擊諸葛亮，同時又派曹真率兵前往支援郿城對抗趙雲、鄧芝。
諸葛亮在祁山聽到魏軍大舉反攻時，算到魏軍將領張郃一定會前去進攻街亭。因為街亭是蜀軍運送糧草的必經之路，如果街亭被占，無疑是斷了蜀軍的咽喉之路。
諸葛亮決定派參軍馬謖守街亭。諸葛亮再三囑咐馬謖，街亭的地勢非常重要，如果失掉街亭，我軍必敗。並給他指出作戰方法，讓他在靠山近水的地方安營紮寨，千萬謹慎小心，不得有誤。馬謖非常自信，他得意揚揚地說：“我自幼熟讀兵書，深知兵法，哪有不能防守這個小地方的道理?”這時，有許多部將都反對讓馬謖去防守街亭，因為他平時過於自負。諸葛亮不顧眾人的反對，執意決定讓馬謖作為先鋒，前往街亭防守。