諸葛亮把這一切布置妥當之後，身邊已無大將，隻有一班文官，且城中守軍隻有二千餘人。手下人來報，司馬懿率領十五萬大軍向西城殺奔而來。
諸葛亮親自登城觀看，果然塵土衝天，魏兵分兩路直奔西城殺來。諸葛亮傳令眾將：把旌旗全部藏起來，所有士卒各守城鋪，不準隨便出入及高聲喧嘩，違者立刻斬首；城門大開，每座城門有二十名軍士扮作百姓，灑掃街道，魏兵到時，不可擅自亂動，自有破敵之策。諸葛亮身披鶴氅，頭戴綸巾，帶著兩個小童，攜琴於城樓之上，憑欄而坐，焚香撫琴。
司馬懿所統之軍前哨來到城下，見了如此情況，不敢進城，急忙飛報司馬懿。司馬懿卻不相不信，於是止住三軍，親自觀望，果然見諸葛亮端坐於城樓之上，笑態盈盈，焚香撫琴。左有一童子，手捧寶劍；右有一童子，手執麈尾。城門內外有二十餘百姓，低頭灑掃，旁若無人，根本沒有敵軍壓境的慌恐氣氛。
司馬懿看完後驚疑不止，親自到中軍，命令後軍變作前軍，前軍變作後軍，往北沿山路而退。次子司馬昭對司馬懿說：“是不是諸葛亮並無大軍，故意擺出這種陣勢？父親為何退兵？”司馬懿說：“你們哪裏知道，諸葛亮一生謹慎，不會弄險。現今城門大開，定有埋伏，我軍如果進城，必定中計。”於是，兩路魏兵全部退去。諸葛亮見魏軍退去，撫掌而笑。手下人無不駭然，於是問諸葛亮說：“司馬懿是魏國名將，今統十五萬精兵到此，見了這座空城，便急速退去，這是為什麼呢？”諸葛亮說：“司馬懿知道我平生謹慎，必不弄險；見了這等光景，疑有伏兵，所以退去。我並不是要冒險，這實在是沒辦法，不得已而用之。司馬懿一定是率軍往北路退去。我已令關興、張苞二人在那裏等候。”
眾官都驚訝佩服道：“丞相玄機，神鬼莫測。如果是我們，一定是棄城逃跑了。”諸葛亮又說：“我們隻有二千五百軍兵，如果棄城逃跑，一定是跑不遠，這還不被司馬懿捉住？”
司馬懿退到武功山，忽聽山後喊殺聲四起，鼓聲震天，回頭對二子說：“我們如果不撤，必中諸葛亮之計。”隻見張苞引兵殺來，魏兵皆棄甲拋戈而逃。又跑了沒多遠，山穀中又喊殺聲四起，關興引兵殺來，山穀回聲，不知蜀軍多少，魏軍心驚膽戰，不敢久停，隻得丟下糧草輜重而去。關興、張苞二人也不追趕，盡得軍器糧草而回。
後來，司馬懿得知西城當時隻是一座空城，並無士兵把守，隻是諸葛亮的空城計而已，司馬懿後悔不迭，仰天長歎：“我真不如諸葛亮啊！”於是率兵返回長安，諸葛亮也安全地撤回了漢中。
民間有句俗語：諸葛亮的空城計，隻能用一次。仔細推敲，這句話還是有道理的，原因有三。
首先，用此計必須是諸葛亮本人，因為在所有人的心目中形成一種定勢，諸葛亮決不弄險。在一出祁山時，魏延曾要求領兵五千，從子午穀襲擊長安。諸葛亮認為這不是萬全之策，並不采納。事後，司馬懿說：“諸葛亮用兵過於謹慎，如果是我，則先從子午穀襲取長安，早得多時矣。非他無謀，隻是不肯弄險。”其次，魏軍統帥必須是司馬懿，換另外一個人也不行，因為司馬懿知道諸葛亮一生決不弄險。諸葛亮知道司馬懿老謀深算而又固執，如果是司馬師或司馬昭也決行不通，況且，二人曾提醒司馬懿有可能是諸葛亮的空城計。第三，切忌，諸葛亮的空城計隻能用一次，再來一次就不靈了。所以諸葛亮說：“吾非行險，蓋因不得已而用之。”