司馬防雖然已經遠去，但他給司馬家族留下了七個兒子，這七個兒子當中，最後終於使司馬家族成為中國曆史舞台上主角兒的人，是他的二兒子司馬懿。
司馬懿是在公元179年出生的，5年之後，就爆發了動搖東漢王朝根基的黃巾起義。從此，中國和平統一的局麵逐漸瓦解，東漢末年軍閥混戰的局麵愈發激烈。司馬懿老家所在的溫縣是戰略要地，是軍閥拚命爭奪的地方，所以整個的青年時代，在大哥司馬朗的保護下，司馬懿都和親戚們閉門謝客、躲避戰亂，同時用心學習，他的文化和見識，也就是在這段苦讀的日子裏逐漸練成的，隨著知識的積累，司馬懿從一個少年成長為一個健壯而睿智的小夥兒。
據說，年輕時候的司馬懿，就很有些憂國憂民的情操，他看到天下大亂，經常為國家和百姓的前途感到憂心忡忡。司馬懿的有一個叫楊俊的老鄉，是一位名士，當時正擔任南陽太守（河南南陽），東漢時代的名士，除了有文化，還特別擅長品評人物，在那個時代，名士對一個人的評價，甚至會直接影響到他的仕途。當楊俊第一次見到司馬懿的時候，司馬懿還沒有成年，但他從此就料定眼前的這個小孩兒將來一定會成為國家的棟梁。
還有一位名士，也對司馬懿做出過非常高的評價，這個人就是崔琰（演）。崔琰一開始本來是袁紹的人，袁紹死後，他的兩個兒子袁譚和袁尚開始內鬥，因為崔琰名聲大大，都想讓他加入自己的陣營，崔琰對這對兒兄弟徹底失望，決定兩不相幫，最後被袁尚囚禁在鄴城。曹操攻占鄴城後，自己兼任了冀州刺史，而讓崔琰當了冀州刺史別駕（行政總監），等曹操當了丞相以後，又讓他當了丞相府的東曹掾（人事總監）。
崔琰這個東曹掾，在曹操已經等同於皇帝的情況下，實際權力就相當於今天的人事部長，曹操政權裏所有二千石一下（部級、軍級）的高官，都由崔琰負責考核、升降，就是這麼一位閱人無數的名士兼高官，在見過司馬懿以後，都高度讚賞。有一次，崔琰見到司馬朗，就對他說：“你弟弟又聰明又機靈，處事果斷、才能傑出，不是一般人能比得上的。”
年紀輕輕就名聲顯赫的司馬懿，自然很快就進入到了極度重視人才的曹操的視野裏。公元201年，正是官渡之戰的第二年。這個時候，司馬懿所在的郡裏推薦他當上計掾（中央特派審計員），曹操因為一聽說司馬懿要任職，就幹脆直接派人去招他來自己身邊當官。司馬懿看出來漢朝已經是名存實亡，而曹操雖然在官渡取得巨大勝利，但畢竟還是前路漫漫，就推辭了曹操的好意，繼續在家讀書，不肯輕易加入曹操的陣營。
這裏還有一個不太靠譜的故事，說曹操派人請司馬懿，司馬懿就說自己得了風痹了，四肢酸痛，躺在床上起不來。曹操一聽心說你平時好好的，我一請你你就風痹啦，就派人假裝刺客去刺殺司馬懿，可司馬懿早就猜到疑心病很大的曹操會來這一招，見到刺客還真就裝的根本起不來床的樣子。曹操一看司馬懿這副德行，也就真的相信了。
更精彩的還在後頭。
司馬懿在家讀書的日子非常漫長，到曹操請他出山的時候，他已經是22歲的小夥子了，按照古人那時的慣例，他已經娶了妻子。中國古代的男人可以娶很多女人，但是妻子隻有一個，其他的都是妾、丫環，按照今天的邏輯來講，妻子就是大老婆，其他的就是小老婆了。司馬懿的大老婆叫張春華，和司馬懿一樣，也是河內郡人，不過她的老家在平皋，和溫縣離得非常近。
據說，司馬懿裝病騙過曹操以後，戒備就有點兒鬆了。有一次，司馬懿讓家裏人到院子裏曬書，曬著曬著，突然下起暴雨，把好好的書全都淋濕了，司馬懿是個愛讀書的人，一看這種情況，再也坐不住了，立刻跑出來搶救藏書。因為風痹是一種絕對不能見風著涼的疾病，司馬懿這往出一跑，等於就是告訴人家自己沒事兒，當時看到他跑出來的，隻有身邊兒的一個丫環，張春華怕這個丫環把司馬懿裝病的事情告訴別人，就親手殺了她，然後自己燒火做飯。司馬懿知道自己的老婆這麼果斷，對她又佩服又害怕，從此反而對她愛不起來了。想想也是，哪個男人有勇氣麵對一個殺過人的女人呢？
這個故事雖然是不太靠譜，但能夠反映真實生活中司馬懿的最大性格：堅忍、機智、果斷，還有一點點的殘忍。
公元208年，赤壁之戰的前夕，曹操再次請司馬懿當官，這回讓他當的，是文學掾（教育總監）。不過，這一回可不是自願性質的了，在使者臨走的時候，曹操對他說：“要是司馬懿敢不來，就把他下大獄”，司馬懿尋思著這牢房的待遇，畢竟不如辦公室和家裏，也就趕緊出山了。
曹操給司馬懿的官一開始也並不大，都是像黃門侍郎（皇帝近侍）、議郎（顧問）這樣六百石俸祿的官兒，六百石俸祿放到今天，就是副處級別，但是，曹操給司馬懿做的這些這種職位，雖然級別低，可都是皇帝的跟班兒，升職空間超大。司馬懿剛剛出山，就有這麼優厚的待遇，不能不說是曹操特別優待他。後來，司馬懿又到曹操的丞相府裏，陸續擔任了東曹屬（副人事總監）、主薄（秘書長）。總之，這個時期的司馬懿擔任的都是辦公室工作，還屬於文職人員。不過，他還有另外一個非常重要的任務，就是兼職伺候曹操的二兒子曹丕，這個曹丕，就是日後曹操的繼承人、曹魏帝國的第一任皇帝。