然而千裏馬也有失蹄的時候，在曹軍直趨街亭的時候，諸葛亮犯了一個致命的錯誤——他選用了言過其實的參軍馬謖去守街亭這一咽喉要地。馬謖既不遵循諸葛亮的布署，又不理睬副將王平的幾次勸阻，棄城不守，舍水上山。曹軍到來後立即包圍蜀軍於山上，先斷絕水源，然後發起攻擊。馬謖大敗，殘兵退回祁山軍營。
街亭失守挫傷了蜀軍銳氣，使主力“進無所據”，繼續奪取隴西的戰機已失，諸葛亮審時度勢退回漢中。
十一月，諸葛亮得知魏十萬大軍被東吳打敗，又抽調關中軍隊東下抗吳，關中空虛，諸葛亮覺得時機重來，決定第二次出兵。諸葛亮很快調集數萬兵馬出散關，圍攻陳倉。但天命難違魏軍已作好準備，蜀軍強攻二十多天，仍無法攻克陳倉，曹軍的後援部隊趕到，諸葛亮隻好下令退兵。
第二年春天，諸葛亮第三次出師北伐。他采用近攻漸進的辦法前進。蜀軍出陽平關攻占武都、陰平二郡，二郡很快攻下，成為蜀地。
一年後，諸葛亮率領大軍第四次出祁山。諸葛亮率領魏延等迎戰司馬懿。司馬懿針對蜀軍糧食運輸困難，難以持久的弱點，依險據守，堅不出戰，持久對峙。幾個月後，蜀軍糧食即將用完，蜀軍隻好退回漢中。
諸葛亮總結前四次失敗的教訓，深感“糧穀軍之要最”，因此有計劃地把軍隊集中在黃沙鎮進行修整。在木牛的基礎上創製“流馬”（人力四輪車）運糧。公元234年，諸葛亮統率十萬大軍第五次出征，並約孫權同時攻魏。
諸葛亮屯兵於渭水南岸的五丈原，一麵與魏軍對峙，一麵就地分兵屯田，以等待東吳的行動。五月，孫權率十萬大軍攻魏，不能勝，很快退兵。
司馬懿與諸葛亮相持了一百多天，始終未出戰。諸葛亮曾派人送去一套女人衣服以羞辱、激怒司馬懿，但司馬懿仍按兵不動。當獲悉諸葛亮日夜辛勞、事必躬親、食少事繁時，司馬懿判斷諸葛亮很難久於人世，更加堅持避免決戰的方針。到了八月，積勞成疾的諸葛亮一病不起，不久便在五丈原軍營中與世長辭了。
諸葛亮一生智慧超群，精細謹慎，又憂國憂民，忠肝義膽，為劉備的建功立業立下難以計算的功勞，他的許多奇謀偉略也傳為美談，但他一生過於謹慎精細，使他失去不少寶貴的機會，因謹慎精細而事必躬親，事無巨細，使他積勞成疾，帶著深深的遺憾，過早離開人世。對此，杜甫曾作詩歎曰：“出師未捷身先死，長使英雄淚滿襟。”
謹慎一生，避仕途之禍
劉伯溫一生足智多謀，文武兼備，上通天文，下曉地理，料事如神，在民間多年來被看作是與諸葛亮一類的人物。
劉伯溫名劉基，以劉伯溫之名知名於當時，傳名後世，元朝末年辭官歸鄉。
但歸隱並不是他的誌向所在，劉伯溫隱居之際，中國的大部分地方農民起義正如星星之火成燎原之勢。劉伯溫身在山林，心在全國，他敏銳地關注著形勢的發展變化。
這期間，他分析過這種現狀，把天下大亂的原因歸咎於元統治者的無能和腐敗，還以秦漢之際的蕭何、張良自比，希望自己能“抑強扶弱”，建立“太平功業”。
紅巾軍起義之後，元政府搖搖欲墜。朱元璋乘紅巾軍主力在北方與元軍主力拚殺之際，率領一支人馬，渡江南下，直逼浙東。精通兵謀的劉伯溫應運而起，拉起一隻鄉兵隊伍。首先圖謀自保，在此基礎上進一步發展。但他畢竟勢單力薄，無法與勢力雄厚、銳不可當的朱元璋爭鋒，隻能避入深山中。
朱元璋雄心勃勃，一心想做第二個劉邦。為成就大業，他十分注意網羅人才，特別是對各地的名士更是推崇備至。此時，劉伯溫的大名已在浙東一帶流傳，甚至家喻戶曉，朱元璋一心想讓劉伯溫為自己效力。
朱元璋派人帶著禮物來到青田山中，邀請劉伯溫。當時劉伯溫並不了解朱元璋，自己的鄉兵又曾與朱元璋的隊伍交過陣，他不願貿然下山，又不願得罪手握重兵的朱元璋。這時，他性格中的精細敏銳，謹慎行事的一麵就體現出來了。於是他好好地招待了來者，婉言拒絕了朱元璋，使者回去後稟報了朱元璋。
朱元璋知道劉伯溫文韜武略都很好，他不想放棄劉伯溫。他意識到劉伯溫對他本人與他的軍隊還不了解，他立刻下了一個手諭給正在浙東指揮戰事的胡大海，讓他善待浙東名士，爭取人心。然後，朱元璋讓使者再跑一趟，請劉伯溫共圖大計。
使者再次來到青田山中，他對劉伯溫說：“我們元帥思賢若渴，久聞先生大名。因此，再次派我來，請先生下山，共建大業。”
劉伯溫仍不敢答應，說道：“我乃山野之人，性情疏懶。而且我已年屆知天命的五十歲了，已別無所求，隻希望多過幾年安寧的日子。另外，一些關於我的傳說多屬子虛烏有。我才疏學淺，擔當不起此重任，請代我向元帥致謝！”
使者不肯走，在山上住了幾天，見劉伯溫仍不肯改變主意，才離去。他不敢回去直接見朱元璋，就去處州找胡大海，胡大海一聽火冒三丈，說道：“還有敬酒不吃吃罰酒的人，我派兵去把他抓來。”