司馬防雖然已經遠去，但他給司馬家族留下了七個兒子，這七個兒子當中，最后終于使司馬家族成為中國歷史舞臺上主角兒的人，是他的二兒子司馬懿。
司馬懿是在公元179年出生的，5年之后，就爆發了動搖東漢王朝根基的黃巾起義。從此，中國和平統一的局面逐漸瓦解，東漢末年軍閥混戰的局面愈發激烈。司馬懿老家所在的溫縣是戰略要地，是軍閥拼命爭奪的地方，所以整個的青年時代，在大哥司馬朗的保護下，司馬懿都和親戚們閉門謝客、躲避戰亂，同時用心學習，他的文化和見識，也就是在這段苦讀的日子里逐漸練成的，隨著知識的積累，司馬懿從一個少年成長為一個健壯而睿智的小伙兒。
據說，年輕時候的司馬懿，就很有些憂國憂民的情操，他看到天下大亂，經常為國家和百姓的前途感到憂心忡忡。司馬懿的有一個叫楊俊的老鄉，是一位名士，當時正擔任南陽太守（河南南陽），東漢時代的名士，除了有文化，還特別擅長品評人物，在那個時代，名士對一個人的評價，甚至會直接影響到他的仕途。當楊俊第一次見到司馬懿的時候，司馬懿還沒有成年，但他從此就料定眼前的這個小孩兒將來一定會成為國家的棟梁。
還有一位名士，也對司馬懿做出過非常高的評價，這個人就是崔琰（演）。崔琰一開始本來是袁紹的人，袁紹死后，他的兩個兒子袁譚和袁尚開始內斗，因為崔琰名聲大大，都想讓他加入自己的陣營，崔琰對這對兒兄弟徹底失望，決定兩不相幫，最后被袁尚囚禁在鄴城。曹操攻占鄴城后，自己兼任了冀州刺史，而讓崔琰當了冀州刺史別駕（行政總監），等曹操當了丞相以后，又讓他當了丞相府的東曹掾（人事總監）。
崔琰這個東曹掾，在曹操已經等同于皇帝的情況下，實際權力就相當于今天的人事部長，曹操政權里所有二千石一下（部級、軍級）的高官，都由崔琰負責考核、升降，就是這么一位閱人無數的名士兼高官，在見過司馬懿以后，都高度贊賞。有一次，崔琰見到司馬朗，就對他說：“你弟弟又聰明又機靈，處事果斷、才能杰出，不是一般人能比得上的。”
年紀輕輕就名聲顯赫的司馬懿，自然很快就進入到了極度重視人才的曹操的視野里。公元201年，正是官渡之戰的第二年。這個時候，司馬懿所在的郡里推薦他當上計掾（中央特派審計員），曹操因為一聽說司馬懿要任職，就干脆直接派人去招他來自己身邊當官。司馬懿看出來漢朝已經是名存實亡，而曹操雖然在官渡取得巨大勝利，但畢竟還是前路漫漫，就推辭了曹操的好意，繼續在家讀書，不肯輕易加入曹操的陣營。
這里還有一個不太靠譜的故事，說曹操派人請司馬懿，司馬懿就說自己得了風痹了，四肢酸痛，躺在床上起不來。曹操一聽心說你平時好好的，我一請你你就風痹啦，就派人假裝刺客去刺殺司馬懿，可司馬懿早就猜到疑心病很大的曹操會來這一招，見到刺客還真就裝的根本起不來床的樣子。曹操一看司馬懿這副德行，也就真的相信了。
更精彩的還在后頭。
司馬懿在家讀書的日子非常漫長，到曹操請他出山的時候，他已經是22歲的小伙子了，按照古人那時的慣例，他已經娶了妻子。中國古代的男人可以娶很多女人，但是妻子只有一個，其他的都是妾、丫環，按照今天的邏輯來講，妻子就是大老婆，其他的就是小老婆了。司馬懿的大老婆叫張春華，和司馬懿一樣，也是河內郡人，不過她的老家在平皋，和溫縣離得非常近。
據說，司馬懿裝病騙過曹操以后，戒備就有點兒松了。有一次，司馬懿讓家里人到院子里曬書，曬著曬著，突然下起暴雨，把好好的書全都淋濕了，司馬懿是個愛讀書的人，一看這種情況，再也坐不住了，立刻跑出來搶救藏書。因為風痹是一種絕對不能見風著涼的疾病，司馬懿這往出一跑，等于就是告訴人家自己沒事兒，當時看到他跑出來的，只有身邊兒的一個丫環，張春華怕這個丫環把司馬懿裝病的事情告訴別人，就親手殺了她，然后自己燒火做飯。司馬懿知道自己的老婆這么果斷，對她又佩服又害怕，從此反而對她愛不起來了。想想也是，哪個男人有勇氣面對一個殺過人的女人呢？
這個故事雖然是不太靠譜，但能夠反映真實生活中司馬懿的最大性格：堅忍、機智、果斷，還有一點點的殘忍。
公元208年，赤壁之戰的前夕，曹操再次請司馬懿當官，這回讓他當的，是文學掾（教育總監）。不過，這一回可不是自愿性質的了，在使者臨走的時候，曹操對他說：“要是司馬懿敢不來，就把他下大獄”，司馬懿尋思著這牢房的待遇，畢竟不如辦公室和家里，也就趕緊出山了。
曹操給司馬懿的官一開始也并不大，都是像黃門侍郎（皇帝近侍）、議郎（顧問）這樣六百石俸祿的官兒，六百石俸祿放到今天，就是副處級別，但是，曹操給司馬懿做的這些這種職位，雖然級別低，可都是皇帝的跟班兒，升職空間超大。司馬懿剛剛出山，就有這么優厚的待遇，不能不說是曹操特別優待他。后來，司馬懿又到曹操的丞相府里，陸續擔任了東曹屬（副人事總監）、主薄（秘書長）。總之，這個時期的司馬懿擔任的都是辦公室工作，還屬于文職人員。不過，他還有另外一個非常重要的任務，就是兼職伺候曹操的二兒子曹丕，這個曹丕，就是日后曹操的繼承人、曹魏帝國的第一任皇帝。
公元215年，劉備和孫權因為荊州（湖北湖南）歸屬問題發生大規模爭斗，曹操趁著這個機會，率軍征討盤踞在漢中地區的張魯，司馬懿也隨軍參戰，扮演的仍然是作戰參謀之類的角色。在張魯逃走之后，司馬懿找到曹操，向他建議說：“劉備用欺騙的辦法，出兵把劉璋的地盤兒給奪了過來，因為這個原因，很多四川人都不服氣。現在他在四川立足未穩，又跑到荊州區和孫權爭奪江陵，這個機會決不能錯過。現在，我們已經攻占漢中，益州的軍民一定驚恐萬分，只要我們乘勝追擊，劉備一定會土崩瓦解，您就能建立更大的功業。圣人不能違背天時，也不能喪失時機啊！”
司馬懿對于當時形勢的看法，絕對是一針見血，他所建議的計策，也同樣是劉備最害怕發生的情況。事實上，當劉備正在荊州和孫權大打出手的時候，只是聽到曹操將要進攻漢中的消息，就立刻和孫權和談，把荊州的東半邊兒交了出去，然后立刻快馬加鞭的跑回成都。
遺憾的是，這么利害的一條毒計，久經沙場的曹操居然沒有采納。當曹操聽完司馬懿的話，只是微笑了一下，說出去那句著名的宣言：“人苦于不知足，已經得到了隴西，還想得到蜀地。”后人們根據曹操的這句話，得出了“得隴望蜀”，專門用來形容那些貪心無度的人。至于曹操不肯繼續進攻的原因，后人們歸納了很多種，但我個人認為最重要的原因有兩條：一是曹操開始越來越加緊建設自己的天下，在這個過程中，他和自己內部親漢勢力的矛盾越來越大，為了大后方，他不能長時間的在外遠征；另一條原因更簡單，那就是：曹操老了，受不了打仗的苦了，英雄遲暮之所以讓人感慨，就是因為不復當年，年老的曹操已經不是當初那個鐵打的英雄了。
曹操雖然沒有聽司馬懿的計策，但是對他敏銳的戰略眼光大為欣賞，對他也更為器重。后來四川形勢的發展也像司馬懿預料的那樣，因為漢中太重要了，如果曹操占著這里，劉備的頭上就會永遠都懸著一把利劍，最終，他下定決心攻占漢中，在曹操離開漢中不久，就對漢中發動了持續的進攻。最終在四年之后，劉備全面攻擊漢中，等到曹操趕去救援的時候，已經來不及了，他永遠失去了這個進攻成都的橋頭堡，等到曹家的軍旗再一次插在漢中城頭上時，已經是將近半個世紀以后的司馬昭時代了。
公元216年，曹操進封魏王，在第二年，他最終確定了曹丕做繼承人，也就是魏王太子，而司馬懿則被任命為當太子中庶子（太子首席顧問），正式成為輔佐曹操未來繼承人的首席謀士。在與曹丕的相處中，司馬懿全面的展現了自己的謀略和才華，把曹丕伺候得又舒服又佩服，當時人們把司馬懿和另外三個也同時伺候曹丕、最后也都成為高官的陳群、吳質、朱鑠并稱為“四友”。
在之后的兩三年里，司馬懿升任了曹操的軍司馬（軍事總監），逐漸接觸到了軍界。在這段時間中，雖然也發生了合肥之戰、居巢之戰這些兩場大規模的戰爭，但持續的時間都非常短，都是一兩個月就結束了。司馬懿敏銳的看出來，曹操攻城略地的勁頭兒越來越小，已經很難再有發動統一全國戰爭的勇氣和實力了，就勸他說：“商末周初的箕子談到治國大計的時候，說過民以食為天。現在全國無所事事也不從事農業生產的人，大概有二十多萬，這不是治國的長遠之計。雖然總是發生戰爭，但也應該一邊兒種地一邊兒防守。”司馬懿的看法，非常對曹操的路子，于是，曹操從此致力于務農積糧，曹操政權的國策，也逐漸從軍事第一轉變為內政第一。