幫助朱元璋取天下的，武人多而文人少。文人除了李善長以外，劉基也算一個，不過，在我們的生活中，很多老百姓都知道劉伯溫，但不一定知道劉基。其實，劉伯溫的正式名字為劉基，字是伯溫。元武宗至大四年（1311年），出生於江浙行省處州路青田縣南田山武陽村，故當時人們也稱他為劉青田。劉伯溫出身於官僚世家，在家庭影響下，他從小才智超群，十四歲進處州（今浙江麗水）郡學，學習《春秋》。十七歲，拜名儒鄭複初為師，攻讀宋儒周敦頤、二程開創的“濂溪學”、“洛學”。他博覽群書，經史子集、天文兵法無所不通，而“尤精象緯之學”。
元順帝元統元年（1333年），年僅二十三歲的劉伯溫就鋒芒初露考中了進士，當時的人們都很器重他。老師鄭複初曾對他父親說：“此子必高公之門矣！”秘書監揭曼碩對人說：“此魏徵之流，而英特過之，將來濟時器也。”
元至元二年（1336年），劉伯溫位居江西高安縣丞，為官清正廉明，因為打擊權貴而聲名遠播。但是，在極端腐敗的元末社會中，正直守法的官員很難得到重用，特別是統治集團為了鞏固軍事統治，實行民族壓迫政策，人民被劃分為四個階層，蒙古人最高貴，色目人第二，漢人第三，南人最下。所謂“南人”指的是元朝最後征服的原宋朝統治下的以漢人為主體的各族人民，劉伯溫自然屬於“南人”之列。才華橫溢的劉伯溫始終由於“南人”的身份在官場上到處受到排擠、打擊。二十九歲時，劉伯溫複審一起人命冤獄，盡改原判，因而得罪了檢察官，被降為職官掾史。三十歲時因同幕府官僚發生意見分歧而被迫辭官，不久補升江浙儒學副提舉，行省考試官，又由於多次上書彈劾禦史失職數事，受到禦史大臣重重阻撓，激憤之下劉伯溫再次辭官。先在江蘇丹徒隱居，後又寓住浙江臨安，每天在西湖與酒為伴，排解心中憂憤。
這時，全國各地的農民起義一浪高過一浪。至正八年（1348年）11月，首先是方國珍在浙江台州起兵，腐敗無能的元朝統治者，為了鎮壓農民起義，被迫起用劉伯溫為江浙省元帥都事。劉伯溫得到重用，仍舊為元朝忠心耿耿。他建議築慶元城，用以圍攻起義軍，並且極力反對招撫。方國珍大懼，厚賂劉伯溫，遭其拒絕。方國珍收買劉伯溫不成，便派人由海路到大都（今北京）去厚賂朝中重臣，使朝廷下詔招撫。劉伯溫因此被元廷扣上了“失天子憫念元元之至意”的罪名，撤了他的職務，把他關在紹興府，氣得劉伯溫多次想自盡以求解脫，幸虧門人密理沙等拚命攔阻，他才活了下來。從此他放蕩不羈，一天到晚在紹興遊山玩水，作詩賦詞，他自比為屈原、賈誼：“上壅蔽而不昭矣，下貪婪而不貞”，“進欲陳而無階兮，退欲往而無路”，用來抒發自己不滿於元朝統治集團的情緒。
此時方國珍不斷壯大自己實力，其他各地農民軍也都紛紛起義，江浙行省自感無能，被迫再次恢複劉伯溫的官職，先命他“招安山寇吳成七等”。劉伯溫自募“義兵”，采取剿撫兼施的辦法，血腥鎮壓了那些拒命不服的起義者。後又與行省樞密院判石抹宜孫互為掎角，相互聲援，聯合起來打擊方國珍。因鎮壓有功，他先後被江浙行省提拔為樞密院判、行省郎中，然而當報到朝廷時，由於朝中當權者排擠漢人，便借口劉伯溫原隻擔任過儒學副提舉，其資格隻夠上遷總管府判，事實上反倒降了級又丟了兵權。在仕途上三起三落、到處碰壁的劉伯溫不再對元政府抱有希望，絕望之下，他置元世祖像於案上，北向而拜曰：臣不敢負世祖皇帝，委實因為走投無路。於是就逃歸青田，時值元順帝至正十六年（1356年）。
落破而歸、懷才不遇的劉伯溫，此時開始冷靜下來，考慮自己今後的出路。他一向把距離他最近的割據勢力方國珍看成海盜，連姑蘇（今江蘇蘇州）的張士誠，亦為劉伯溫所不齒，他曾說：“吾生平忿方國珍、張士誠輩所為！”當然不可能去投奔他們為其效力，於是決定投靠應天的朱元璋。確實，在劉伯溫看來，在元末群雄中，有雄才大略、能成大業的除了朱元璋外再無他人。還在十年前第一次罷職時他就隱隱約約地萌發過這個念頭。那次，劉伯溫“與魯道源、宇文公諒日縱酒西湖，見有異雲起，時基已醉，放言曰：‘嘻，此所為天子氣，應十年，我其輔之一。’”至正十六年（1356年），朱元璋攻下南京，劉伯溫更加覺得他非同一般。然而，朱元璋到底是與“聖朝”對立啊！在自己以前創作的詩歌中，不是也直斥他為“盜賊”嗎？這樣，飽讀經史和飽嚐仕途坎坷的劉伯溫，心事重重，下不了決心，索性采取靜觀時變的辦法。他一方麵集鄉練自保，抵製方國珍攻擊；另一方麵，發憤寫作，著《鬱離子》十卷十八篇以見誌。
而在朱元璋招募了李善長之後，有一天，他問李善長：“你經常把我比作漢高祖，你好比是酂侯。至於徐達嘛，也比得上淮陰侯，可用誰來比作留侯呢？”李善長答：“金華人宋濂博聞強記，又兼通象緯，應當可以擔此重任。”朱元璋補充說：“據我所知，通象緯者莫如青田劉基。”