曹操基本上統一北方後，緊接著就在冀州造玄武池，用來訓練水軍，積極做著南下的準備。諸葛亮把這個消息告訴了劉備，並要求秘密派人過江去探聽虛實。劉備立即派了人去。
諸葛亮接著要籌劃如何增強劉備的兵力。因為當時劉備隻有數千名士兵，根本連荊州都無法守住，更不要說與曹操爭霸天下了。他想到現在荊州的百姓人數並不少，但多是逃難至此，真正有戶籍的人卻不多，每逢遣兵發調都是當地有戶籍的人，使得百姓們深感不公，抱怨不已。於是他就向劉備建議頒布命令，使那些沒有戶籍的流動人口自動申報寄居，再重新統計出精確的人數，以便於按照要求征收兵員。劉備立刻聽從諸葛亮的建議下令，又招了幾千人。諸葛亮每天早晚教他們練習陣法。在段時間內，便把軍隊由數千人擴大為數萬人。
諸葛亮的政治才能使他更加受到劉備的尊重和信任，劉備曾感慨地對自己的部下說：“我得到孔明，就像是魚得到水一樣。”
這時的荊州內部，長久以來存在的爭位矛盾激化了。荊州牧劉表有兩個兒子，長子名琦，幼子名琮。劉表有一個非常受寵的繼室蔡氏，蔡氏的哥哥蔡瑁是劉表的得力之臣，劉表事事都要仰仗蔡瑁。因此蔡家的勢力很大。蔡氏經常在劉表麵前稱讚自己的親生兒子劉琮而貶低劉琦，加上劉表本人又比較疼愛幼子，還親自作主將蔡瑁的女兒許配給劉琮，因此劉琮在荊州的地位比劉琦還要高。為了讓劉琮能名正言順地繼承劉表的位子，蔡氏一邊在劉表麵前說劉琦的壞話，一邊暗中加緊殘害他。為此，劉琦深感不安，他幾次向諸葛亮請教自處之道，但是諸葛亮總是笑而不答。
一天，劉琦想了一個計策，把自己和諸葛亮單獨關在一間閣樓上，然後命令手下將樓梯撤走。他誠懇地對諸葛亮說：“今日我們在此相聚，上不著天，下不著地，除了你我之外不可能有人聽到我們的談話。我懇求你，為我指點迷津。我很惶恐，不知所措。”
諸葛亮反問他：“難道您不曾聽說晉公子重耳的故事嗎？春秋時代的晉獻公，他的大兒子申生非常孝順，於是就把申生立為太子。晉獻公還有兩個兒子夷吾和重耳。後來晉獻公舉兵討伐驪戎，驪戎的首領把自己兩個美貌的女兒獻給了晉獻公，晉獻公就退兵回國了。晉獻公最為寵愛其中的姐姐驪姬，不久，驪姬也為獻公生了一個兒子奚其。驪姬很想晉獻公立奚其為太子，便想出一個詭計。她借口申生死去的母親托夢，讓申生去祭祀他的母親，等祭祀完畢後，又讓申生拿著祭肉去孝敬晉獻公。忠厚的申生並不知道肉中已被驪姬暗下毒藥，便順從地將肉拿給晉獻公。晉獻公聽信了驪姬的讒言，認為申生故意置毒於肉中，要來謀害他。一怒之下，便將申生賜死，申生含冤莫辯，自殺身亡。
“這時夷吾、重耳擔心驪姬將會殘害他們，便連夜逃出城外，終於保全了生命。這就是所謂‘申生在內而危，重耳居外而安’。”
劉琦聽了諸葛亮的指點後感激不已。他立刻找到父親請求他把自己外派，接任江夏的太守，前往擔任地方官吏，以求明哲保身。
後來，劉表病入膏肓時派人將劉備從新野請到荊州，托孤給他，並試探劉備說，他認為自己的兒子沒什麼能力，想把荊州送給劉備。劉備一聽大哭起來，立誓會竭盡全力輔佐新主的。在江夏當太守的劉琦知道父親病危的消息，連夜趕回探望父親的病情，但是蔡瑁等人唯恐他們相見之後，劉表會將國家重任托付給劉琦，便斷然地拒絕了劉琦與父親相見。之後，劉琮和蔡氏執掌了荊州的大權。