早年經歷
司馬懿是高陽之子重黎的後裔，即夏官祝融。遠古至商朝世代襲承夏官這一職位，到了周朝，夏官改稱司馬。周宣王時，先祖程伯休父平定徐方有功，恩賜司馬為族姓。司馬懿的十二世祖司馬卬隨項羽滅秦，受封殷王，建都河內。漢朝時成為河內郡，司馬家族世代居住在此地。司馬懿的高祖父司馬鈞為漢安帝時的征西將軍，曾祖父司馬量為豫章（今江西南昌）太守，祖父司馬儁[jùn]為潁川（今河南禹州）太守，父親司馬防為京兆尹。司馬防育有八子，因字中都有一個“達”字，當時號稱司馬八達。晉武帝司馬炎詔書說：“本諸生家，傳禮來久。”
司馬懿是司馬防的次子，少年時期就胸懷謀略。東漢末年，司馬懿生於亂世，“常慨然有憂天下心”。南陽太守楊俊素以知人善任著稱，司馬懿二歲前，楊俊曾見過他，說他絕非尋常之子。尚書崔琰[yǎn]與司馬懿的兄長司馬朗交好，曾對司馬朗說：“你弟弟聰明懂事，做事果斷，英姿不凡，不是你所能比得上的。”司馬懿少年時和著名隱士胡昭關係很好。因與同郡的周生等人結怨而被謀害，胡昭知道後立刻涉險尋找，在崤[xiáo]山澠池之間找到周生一行，請求他們放過司馬懿，周生開始不肯，但胡昭哭泣的誠意最終還是感動了他，救下司馬懿。
建安六年（201年），郡中推舉他為上計掾[yuàn]。時曹操正任司空，聽到他的名聲後，派人召他到府中任職。司馬懿見漢朝國運已微，不想在曹操手下，便藉口自己有風痹病，身體不能起居。曹操不信，派人夜間去刺探訊息，司馬懿躺在那裡，一動不動，像真染上風痹一般。
建安十三年（208年），曹操為丞相以後，使用強制手段徵召司馬懿為文學掾。曹操對使者說，“若復盤桓，便收之”。司馬懿畏懼，只得就職。曹操讓他與太子往來游處，歷任黃門侍郎、議郎、丞相東曹屬、丞相主簿等職。而據《魏略》則記載，司馬懿好學，曹洪自以為才疏，想讓司馬懿去幫助他，司馬懿恥於和曹洪來往，假裝拄拐不去。曹洪記恨司馬懿，去跟曹操打小報告，曹操徵召司馬懿，司馬懿立刻扔了拐杖去見曹操為其效命。
曹操逐漸察覺司馬懿“有雄豪志”，又發現他有“狼顧之相”，心裡很忌諱。因此對曹丕說，司馬懿不是甘為臣下的人，必會幹預我們的家族之事。但因曹丕和司馬懿關係很好，總是維護他，而得以無事，於是，司馬懿勤於職守，廢寢忘食，遂使曹操安心。
奇策善謀
建安二十年（215年），曹操征討張魯，司馬懿隨軍。他對曹操說：“劉備用詭計俘虜劉璋，蜀中之人還未曾歸附他就又興兵爭奪江陵，這正是破劉的好機會。今若在漢中陳兵示威，益州就會震動不安，再進兵威逼，蜀兵勢必瓦解，趁這個好機會，事情是可以成功的。聖人不能違時，也不能失時。”曹操說：“人苦於不知足，既得隴右，復欲得蜀。”未從其計。
建安二十四年（219年），司馬懿升任太子中庶子，佐助曹丕。時司馬懿“每與大謀，輒有奇策”，為曹丕所信任和重用，與陳群、吳質、朱鑠[shuò]並稱“四友”。司馬懿轉任軍司馬，建議屯田解決糧食問題，得到曹操的採納。他指出荊州刺史胡修粗暴，南鄉太守傅方驕奢，都不應駐守邊防，曹操未予重視。關羽圍曹仁於樊城，水淹于禁七軍，斬龐德。胡、傅二人果然乘機降蜀。一時間關羽聲勢“威震華夏”，因漢獻帝在許縣，距樊城很近，曹操感到威脅，為避關羽鋒芒，一度準備遷都黃河以北。司馬懿和曹椽蔣濟及時勸阻說：“于禁被水軍所淹，不是戰守上的失誤，對於國家的大局並沒有大損失，為此而遷都，即是向敵人示弱，又會使淮河漢水一帶人心不穩；劉備、孫權外親內疏，現在關羽坐大，孫權必定更不高興，把這事告之孫權，使他牽制關羽，則樊城之圍自解。”曹操從其計，孫權果然派呂蒙襲取公安，關羽被其俘殺。
此戰利用孫、劉爭奪荊州的矛盾，充分運用外交謀略，坐收漁利，不僅挫敗關羽的強大攻勢，解除了樊城之圍，而且也使諸葛亮原定的一路向宛洛、一路出秦川的兩面鉗擊中原的計畫無法實現。更重要的是破壞孫、劉聯盟，改變了當時的戰略格局，掌握了主動權。
之後曹操認為荊州遺民及在潁川屯田的軍民逼近南方寇賊，想把他們遷走。司馬懿認為：“荊楚輕脫，易動難安。關羽新破，諸為惡者藏竄觀望。今徙其善者，既傷其意，將令去者不敢復還。”曹操聽了他的建議，沒有移民。之前藏竄逃亡者果然都復出歸化。
延康元年（220年），曹操去世，朝野危懼，司馬懿管理喪葬諸事，內外肅然。同年，曹丕即魏王位，司馬懿受封河津亭侯，轉丞相長史。當時孫權正率軍向西。朝臣們認為樊城、襄陽缺乏糧，不能抵禦吳軍，請召守將曹仁回駐宛城。司馬懿則表示：“孫權剛剛打敗關羽，正是他想和魏國結好的時候，一定不敢為患。襄陽是水陸交通要地，不能放棄。”曹丕沒聽其建議，命曹仁放火燒毀二城。後來孫權果然沒來入侵。曹丕悔之不及。
輔政平亂
黃初元年（220年）十一月，曹丕登皇帝位，史稱魏文帝。登基後，任命司馬懿為尚書，不久轉督軍、御史中丞，封安國鄉侯。
黃初二年（221年），免去督軍官職，升任侍中、尚書右僕射。黃初五年（224年），曹丕伐吳，司馬懿鎮守許昌，並改封司馬懿為向鄉侯，轉撫軍、假節，領兵五千，加給事中、錄尚書事。
黃初六年（225年）曹丕再次伐吳，司馬懿留守許昌，“內鎮百姓，外供軍資”。臨行，下詔書給司馬懿說：“吾深以後事為念，故以委卿。曹參雖有戰功，而蕭何為重。使吾無西顧之憂，不亦可乎！”後曹丕由廣陵回師洛陽，又下詔對司馬懿說：“吾東，撫軍當總西事；吾西，撫軍當總東事。”於是司馬懿留鎮許昌。
黃初七年（226年）五月，曹丕駕崩，享年四十歲。臨終時，令司馬懿與中軍大將軍曹真、鎮軍大將軍陳群、征東大將軍曹休為輔政大臣。曹丕對太子曹叡[ruì]說：“有間此三公者，慎勿疑之。”曹叡即位，改封司馬懿為舞陽侯。孫權得知魏文帝去世後，於八月出兵攻魏。命諸葛瑾、張霸兵分兩路進攻襄陽，親自率軍進攻江夏郡。司馬懿擊退了孫權，又擊敗諸葛瑾，並斬殺張霸，斬首千餘級。十二月，升任驃騎將軍。
擒斬孟達
太和元年（227年）六月，魏明帝曹睿命司馬懿駐紮宛城，加督荊、豫二州諸軍事。蜀將孟達降魏時，魏朝待其甚厚，司馬懿認為他言行傾巧，不可信任。但曹睿不聽，任命孟達領新城太守，封侯，假節。曹丕死後，孟達失寵，蜀丞相諸葛亮即暗中與之通信，圖謀叛魏。諸葛亮恐他言行反覆無常，想促他速叛，知魏興太守申儀和他有矛盾，便派郭模到申儀處詐降，有意泄露其事。孟達聞此泄露，準備馬上起兵。申儀將此事密告司馬懿後，司馬懿怕他突然發難，給他去信，詳為慰解，信中說：“將軍昔棄劉備，託（[tuō]，委託）身國家，國家委將軍以疆埸之任，任將軍以圖蜀之事，可謂心貫白日。蜀人愚智，莫不切齒於將軍。諸葛亮欲相破，惟苦無路耳。模之所言，非小事也，亮豈輕之而令宣露，此殆易知耳。”
孟達得信大喜，猶豫不決。司馬懿則暗中率軍進討，諸將見孟達與吳蜀交接，勸司馬懿先觀而後動。司馬懿說：“達無信義，此其相疑之時也，當及其未定促決之。”司馬懿親自率軍日夜兼程前去討伐孟達，八天抵達新城城下。吳、蜀派出援兵解救孟達，被司馬懿部攔阻於西城的安橋、木蘭塞等地。此前，諸葛亮曾告誡孟達加緊防範，孟達寫信給諸葛亮認為：“宛城和洛陽相距八百里，離我處一千二百里，上表給天子，來迴路程，少需一個月，那時我的城池已修固，諸軍都作好了準備。我駐紮的地形深險，司馬懿必不會親自來，其他部將來，則不足為患”。而司馬懿先斬後奏，僅八日就兵臨城下，孟達又寫信給諸葛亮，驚嘆：“吾舉事，八日而兵至城下，何其神速也！”上庸城三面環水，孟達在城外樹立木柵，加固城防。司馬懿揮師渡水，毀其木柵，直逼城下。太和二年（228年）正月，司馬懿兵分八路攻城，僅十六天，孟達的外甥鄧賢、部將李輔開城投降。魏軍入城，擒斬孟達，傳首京師，俘獲萬餘人。司馬懿回軍，仍駐宛城，獎勸農桑，禁止浪費。南方吏民心悅誠服。
起初，申儀久在魏興郡，專威弄權，擅自借皇帝名義刻制印信，私相授予。孟達被殺之後，申儀自生疑慮。當時各郡郡守見司馬懿克敵制勝，紛紛奉禮祝賀。司馬懿聽之任之，並讓人向申儀暗示。申儀只好前來祝賀。司馬懿乘機將他收捕，送往京師。司馬懿又將孟達餘眾七千餘家遷往幽州。不久蜀將姚靜、鄭他等率其部屬七千餘人來降。當時邊郡新附，戶口不實。朝廷想加以核實，請司馬懿進京，徵詢他的意見。司馬懿認為：“賊以密網束下，故下棄之。宜弘以大綱，則自然安樂”。
魏明帝又問他吳蜀都該討伐，應該先從何處著手？司馬懿回答說：“吳以中國不習水戰，故敢散居東關。凡攻敵，必扼其喉而摏（[chōng]，撞擊）其心。夏口、東關，賊之心喉。若為陸軍以向皖城，引權東下，為水戰軍向夏口，乘其虛而擊之，此神兵從天而墜，破之必矣。”魏明帝同意他的看法，命他回宛城備戰。八月，大司馬曹休不依計畫，逕下皖城深入敵境接應詐降的吳將周魴，在石亭被陸遜伏擊，大敗，曹休病死。
抗蜀北伐
太和三年（229年），蜀丞相諸葛亮第三次出兵攻魏，並占據武都、陰平二郡。太和四年（230年），魏明帝決定興師伐蜀。升司馬懿任大將軍、加大都督、假黃鉞，與大司馬曹真一起伐蜀。八月，魏明帝命曹真率主力由長安入子午谷，左將軍張郃出斜谷，司馬懿自荊州溯漢水出西城，將兵分三路會攻漢中。司馬懿從西城開拓道路，水陸並進，沿著沔水逆流而上，直達朐忍，攻克新豐縣，駐軍丹口，後遇大雨班師。
太和五年（231年）二月，蜀漢丞相諸葛亮率軍第四出進攻魏，包圍祁山賈嗣、魏平部，並以木牛流馬運輸糧草。魏明帝對司馬懿說：“西南邊境戰事吃緊，除了你沒有可以應對的”，於是派他西駐長安，都督左將軍張郃、雍州刺史郭淮等防禦蜀軍。司馬懿留部將費曜、戴陵率4000人守邽，自率主力西救祁山。張郃勸司馬懿分兵駐紮雍、郿兩地，以作大軍後鎮，司馬懿不同意，他說：“料前軍獨能當之者，將軍言是也。若不能當，而分為前後，此楚之三軍所以為黥布禽也。”於是挺進喻麋，對戰諸葛亮。此次戰役的結果，不同的史書有不同記載，《晉書·宣帝紀》中，司馬懿大勝蜀軍，“帝攻拔其圍，亮宵遁。追擊，破之，俘斬萬計……會有長星墜亮之壘，帝知其必敗，遣奇兵掎亮之後，斬五百餘級，獲生口千餘，降者六百餘人。”；但在《漢晉春秋》中，諸葛亮力挫魏軍，“亮分兵留攻，自逆宣王於上邽（[guī ]，陝西省渭南縣）。郭淮、費曜等徼（[jiǎo]，求）亮，亮破之，因大芟刈（[shān yì]，割）其麥，與宣王遇於上邽之東，斂兵依險，軍不得交，亮引而還……亮使魏延、高翔、吳班赴拒，大破之，獲甲首三千級，玄鎧五千領，角弩三千一百張，宣王還保營。”另外，這時期魏將張郃之死也有不同的說法，《張郃傳》中，張郃不聽司馬懿勸告，主動出擊，“詔郃督諸將西至略陽，亮還保祁山，郃追至木門，與亮軍交戰，飛矢中郃右膝，薨。”；而在《魏略》中卻記載是司馬懿指揮失當，“宣王使郃追之，郃曰：“軍法，圍城必開出路，歸軍勿追。”宣王不聽。郃不得已，遂進。蜀軍乘高布伏，弓弩亂髮，矢中郃髀。”歷史真相究竟如何，尚不能下定論。
青龍元年（233年），安定保塞匈奴大人胡薄居姿職等叛，司馬懿派遣胡遵等追討並破降。蜀軍退軍後，軍師杜襲、督軍薛悌[tì]都預計諸葛亮第二年麥熟時還會入侵，建議趁冬天調運糧草，解決隴右糧少問題。司馬懿認為：“諸葛亮兩次出祁山，一次攻陳倉，都受挫而返。即使以後他還會出兵，將不再攻城，而是尋求野戰，地點必在隴東，而不會在西邊。諸葛亮常以糧少為恨，回去後必然廣積糧草，我估計不經過三年，他是不會出兵的。”
五丈原
青龍二年（234年）二月，諸葛亮率軍十萬出斜谷攻魏。四月，諸葛亮至郿縣，進駐渭水之南。司馬懿率軍渡渭水，背水築壘阻擊。諸將想在渭北與諸葛亮隔水相持，司馬懿說：“百姓積聚的糧秣財物都在渭南，這是必爭之地。”遂渡渭背水紮營。司馬懿分析形勢後，對諸將說：“百姓積聚的糧秣財物都在渭南，這是必爭之地。”當時，司馬懿屯兵渭南。郭淮估計諸葛亮一定會爭奪北原，主張先占領，他說：“如果諸葛亮跨過渭水登上北原，就可以連兵北山，斷絕隴道，驚嚇臣民和胡人，此乃國家安危之大患。”很多人不以為然，但司馬懿很認同，讓郭淮屯兵北原。戰壕還沒修好，蜀軍壓境，魏軍奮力回擊。不久，諸葛亮率大軍西行，諸將都認為諸葛亮想攻西圍。郭淮則認為，諸葛亮虛張聲勢是要讓魏軍大舉回應，而他的目標是陽遂。夜裡，蜀軍果然進攻陽遂，因城中早有防備，諸葛亮沒能成功。五月，十萬吳軍攻魏，配合蜀漢軍作戰，被滿寵所拒。七月，魏明帝率兵親征，吳軍撤走。群臣認為司馬懿正還在西邊和諸葛亮重兵對峙，車駕可西幸長安，魏明帝則說：“權走，亮膽破，大將軍以制之，吾無憂矣。”諸葛亮東進的道路受阻於司馬懿，從渭水前進，又有郭淮阻擋，乃移軍攻取散關，隴城等地，回師進攻司馬懿。
八月，司馬懿以“堅壁拒守，以逸待勞”的指示，與諸葛亮相持百餘日。諸葛亮數次挑戰，司馬懿均堅壁不出，以待其變。諸葛亮便派人給司馬懿送來“巾幗婦人之飾”，欲激司馬懿出戰，司馬懿仍不出戰。為平息部屬不滿情緒，故意裝怒，上表請戰。魏明帝不許，並派骨鯁之臣辛毗[pí]杖節來做司馬懿的軍師，以節制他的行動。諸葛亮一來挑戰，司馬懿就要帶兵出擊，辛毗杖節立於軍門，司馬懿便不出兵。蜀將姜維就對諸葛亮說：“辛毗杖節而至，賊不復出矣。”諸葛亮則說：“彼本無戰情，所以固請戰者，以示武於其眾耳。將在軍，君命有所不受，苟能制吾，豈千里而請戰邪！”諸葛亮遂分兵屯田，做長久屯駐之準備。司馬懿的弟弟司馬孚也來信問前線軍情，司馬懿回信說：“亮志大而不見機，多謀而少決，好兵而無權，雖提卒十萬，已墮吾畫中，破之必矣。”
不久，諸葛亮遣使求戰，司馬懿不談軍事，問使者：“諸葛公起居飲食如何，一頓能吃多少米？”使者說：“三四升。”然後對問政事，使者說：“打二十軍棍以上的處罰，都是諸葛公自己閱批。”經過一番不經意的詢問，司馬懿對人說：“諸葛亮將要死了。”果然，諸葛亮於當月病故於五丈原軍中。蜀將秘不發喪，整軍後退。當地百姓跑來報告，司馬懿派兵追擊，蜀將楊儀返旗鳴鼓，做出回擊的樣子，司馬懿以‘窮寇莫追’收軍退回。當時有人傳：“死諸葛走生仲達”，司馬懿聽到笑說：“這是因為我長於預測活人的事，不長於預測人的生死啊。”第二天，司馬懿到諸葛亮營壘巡視，並贊諸葛亮“天下奇才也”。
歷時七年的諸葛亮北伐至此結束。諸葛亮以一州之地強攻雄踞中原的曹魏，縱使竭忠盡智，終因實力懸殊而難以實現其戰略目的。而曹魏則在曹真、司馬懿等人指揮下，以優勢兵力採取最為穩妥的防禦戰略，最終迫退蜀軍。蜀漢將領楊儀、魏延在撤軍後爭權，楊儀殺死魏延。司馬懿想乘機攻蜀，魏明帝未準，作罷。
青龍三年（235年），司馬懿升任太尉，累增封邑。蜀將馬岱入境侵擾，司馬懿派牛金迎擊，斬蜀軍千餘人。武都氐王苻雙和強端率領其屬下六千餘人來降。
平定遼東
東漢末年軍閥混戰時，公孫度據有遼東。這個割據勢力對曹魏一直時叛時降，保持著半獨立的地位。公孫淵繼為遼東太守後，對魏更加不遜。魏明帝震怒，派荊州刺史毌丘儉出任幽州刺史，時遼水大漲，毌丘儉不利而還。毌丘儉討伐受阻，使公孫淵更加得意。景初元年（237年），原魏遼東太守公孫淵背叛魏國，自立為燕王，置列百官，定都襄平。淵遣使南通孫權，封拜邊民，誘呼鮮卑，侵擾北方。
司馬懿攻打公孫淵(遼陽博物館畫作）
景初二年（238年）正月，魏明帝召回司馬懿，命他率兵討伐。魏明帝問他估計公孫淵有什麼對策，司馬懿說：“事先棄城逃走，是上計。憑藉遼水抗拒我大軍，這是次計。坐守襄平，那他就要當俘虜了。”魏明帝又問：“公孫淵會採用哪種？”司馬懿回答：“只有聰明人能正確估量彼此實力。預先棄城，不是公孫淵所能做到的。他定會認為我們這次孤軍遠征不能持久，先在遼水抗拒，再退守襄平，這是中計和下計”。魏明帝問：“往還需要多少時間？”司馬懿說：“去百日，回百日，攻戰百日，用六十天休息，一年時間足夠了。”臨行時親友相送，司馬懿感慨作歌：“天地開闢，日月重光。遭遇際會，畢力遐方。將掃群穢，還過故鄉。肅清萬里，總齊八荒。告成歸老，待罪舞陽。”正月，司馬懿率牛金、胡遵等步騎四萬，從京師出發，經孤竹，越碣石，六月，進至遼水。公孫淵果然急令大將軍卑衍、楊祚等人率步騎數萬，依遼水圍塹20餘里，堅壁高壘，阻擊魏軍。司馬懿採用聲東擊西之計，先在南線多張旗幟，佯攻圍塹，吸引敵軍主力，而以主力隱蔽渡過遼水，逼進敵軍的襄平本營，部將不解問其原因。司馬懿說：“敵人堅營高壘，就是想讓我們兵疲糧盡，若攻城，正中其計。古人曰，敵雖高壘，不得不與我戰者，攻其所必救也。現在他們大軍在此，老巢卻空。我直指襄平，敵軍必懼，懼而求戰，破之必矣”。接著整頓陣列前進，敵軍果然出來截擊。司馬懿對諸將說：“我之所以不攻其營，正是要等現在的局面。”於是指揮魏軍痛擊，三戰皆捷，遂乘勝進圍襄平。
當初公孫淵聞魏軍來攻，求救於孫權，孫權也出兵為其聲援，並給公孫淵寫信：“司馬懿善用兵所向無前，深深為賢弟感到擔憂啊。”適逢連降大雨，遼水暴漲，平地數尺，魏軍恐懼，諸將思欲遷營。司馬懿下令有敢言遷營者斬，都督令史張靜違令被斬，軍心始安。公孫淵軍乘雨出城，打柴牧馬，安然自若。魏將領請求出擊，司馬懿不允。司馬陳圭曰問司馬懿：“當年攻上庸，八路並進，晝夜不停，故能在一旬半時間裡，攻下堅城，殺了孟達。這次遠道而來，為什麼行動卻更加緩慢？”司馬懿說：“當年孟達軍隊少而糧食能支持一年，我們的兵是孟達的四倍糧食卻不足一月，以一月糧的軍隊對付有一年糧的軍隊，怎能不速戰速決？四打一，即使一半人傷亡，也是可行，當時不計死傷，正是要為有限的糧草爭取時間。而今敵兵多我軍少，敵糧少我糧多，又遇大雨，想速戰也不可能。從出兵開始，我就不擔心敵人來進攻，而是怕他們會逃跑。如今敵軍糧草將盡，我軍包圍尚未合攏，若現在搶掠牛馬，會逼他們逃走。兵者詭道，善因事變。他們現在憑藉人多和大水，雖然飢困，也不肯就擒。這時候更當穩住對方，不能為得小利而把敵人嚇跑。”司馬懿將計就計，故意示弱。朝廷聽說雨大敵強，不少人請求召還司馬懿。魏明帝卻說：“司馬懿臨危制變，生擒公孫淵指日可待。”
月余，雨停，水漸退去。魏軍完成對襄平的包圍，晝夜強攻。城內糧盡，死者甚多，其將楊祚等降。時偶有流星自城西南向東北划過，墜落在梁水附近，城中愈發震恐。公孫淵也很驚懼，八月，派相國王建、御史大夫柳甫請解圍而縛。司馬懿斬殺使者，發布檄文嚴責：“昔日楚和鄭是並列的國家，鄭伯尚且肉袒牽羊而迎楚軍。孤家為王者大臣，位在上公，而王建等要我解圍退兵，如楚鄭一樣同列相待。二人年老糊塗，必是傳話不符原意，已經將他們斬首。若還有話要說，可再派年少明智果決的人來。”公孫淵又派侍中衛演來請求定日期送人質。司馬懿對他說：“作戰的大要有五：能戰當戰，不能戰當守，不能守當走，餘二事惟有降與死耳。公孫淵若不肯自縛請罪，就是決心尋死了，不須送什麼人質。”公孫淵欲從城南突圍，司馬懿縱兵擊破其軍，公孫淵戰死在梁水邊上。
入城後，司馬懿下令屠殺十五歲以上男子七千多人，收集屍體，築造京觀。“京觀”亦名“武軍”，即用泥土夯實屍骸，在路邊築成高台，目的是顯耀武功，震懾他方。而後他又把公孫淵所任公卿以下一律斬首，殺死將軍畢盛等二千多人，收編百姓四萬戶。
司馬懿釋放了當年被公孫淵篡奪官位的公孫恭，又為被公孫淵迫害的綸直、賈范等人修了墳墓，表彰他們的後代。下令說：“古代討伐一個國家，僅殺其中頑固兇惡的人而已。各位被公孫淵所連累的人，全部寬恕。中原人願意返回故鄉的，各隨己願。”當時司馬懿軍中有的士兵衣單寒冷，請求發給短襖，司馬懿不給，表示“襦者官物，人臣無私施也”。於是上奏朝廷，把一千多名六十歲以上的士兵解除兵役，送返回鄉。在原定一年的期限內，勝利班師。魏明帝派使者到薊去犒勞部隊，增司馬懿食昆陽縣，前後共二縣。曹魏數十年來遼東問題終於徹底解決。
明帝託孤
原本朝廷讓司馬懿便道往鎮關中。但當到達白屋時，有詔書召他火速回京，三日之間，詔書五至。魏明帝手書說：“間側息望到，到便直排閣入，視吾面”。
據說，司馬懿在襄平時，曾夢見魏明帝枕在他膝上，說：“視吾面。”他俯視，見魏明帝面有異色。如今一見詔書此語，大驚，乘追鋒車晝夜兼行，從白屋到京城，四百多里，一夜而至。至則徑人嘉福殿內御床旁邊，滿眼流淚，指問疾病。魏明帝拉著他的手，目視太子齊王，說：“以後事相托。死乃復可忍，吾忍死待君，得相見，無所復恨矣。” （《三國志·魏書·明帝紀》為“吾疾甚，以後事屬君，君其與爽輔少子。吾得見君，無所恨。”）
當天，魏明帝去世。時為公元239年（景初三年）正月。齊王曹芳年僅八歲，司馬懿乃與大將軍曹爽一起接受遺詔輔佐少主。齊王即位，司馬懿任侍中、持節、都督中外諸軍、錄尚書事，和曹爽各統精兵三千人，共執朝政。
曹爽欲排擠司馬懿，想讓尚書奏事先通過自己，以便專權，向天子進言，改任司馬懿為大司馬。朝臣們認為以前大司馬，有好多都死在任上，不吉，於是任命司馬懿為沒有實權的太傅，像蕭何那樣，入殿不趨，贊拜不名，劍履上殿。
退敵征吳
正始二年（241年）四月，吳帝孫權分兵四路攻魏：衛將軍全琮率軍數萬出淮南，威北將軍諸葛恪攻六安，前將軍朱然攻樊城，大將軍諸葛瑾攻祖中。五月，吳將全琮入侵芍陂，朱然、孫倫圍攻樊城，諸葛瑾、步騭侵掠柤中，司馬懿自請出兵往討。朝臣認為，敵兵遠來攻堅，當待其自破，司馬懿則說：“邊城受敵人侵擾而大臣安坐廟堂，會使疆場騷動不安，眾心疑惑，這是社稷的大憂患。”六月，司馬懿統軍增援，司馬懿知南方暑熱低濕，大軍不宜持久在此，先派輕騎挑戰，朱然不敢動。於是，便休養土卒。檢選精銳，招募勇士，發布號令，擺出攻城的架勢。吳軍驚懼，連夜撤退。在三州口（荊、豫、揚三州），為魏軍追及，吳軍被殲萬餘人，船艦物資損失甚多。而進攻六安、柤中的吳軍亦無功而還。七月，增司馬懿食郾[yǎn]、臨潁，前後共四縣，食邑萬戶，子弟十一人皆為列侯。司馬懿功勳德望日漸盛大，然而卻更加謙恭。司馬懿認為太常常林是同鄉長者，見了他總要下拜。常告誡子弟們說：“盛滿是道家所忌的，春夏秋冬尚且往返推移，吾有何德能居此高位。減損再減損，或可以免於禍啊！”
此前，吳國派諸葛恪屯駐宛城，邊人深以為苦。司馬懿要率兵攻之，議者以為諸葛恪占據堅城，廣有糧谷，孤軍遠攻，救兵必至，那時進退失據，未見其便。司馬懿卻說：“賊所擅長的是水戰，今我攻其城，以觀其變化。賊若用其所長，棄城奔走，這是我們預定的目的。賊若敢固守城池，湖水冬淺，船不能行，救兵必棄船就陸相救，這就要進行他們不擅長的陸戰，這對我們是有利的。”
正始四年（243年）九月，司馬懿率軍出征。軍隊到達舒城，諸葛恪[kè]果然焚燒積聚，棄城而走。司馬懿又巡視淮北屯田區，提拔農家子弟鄧艾主持屯田。
誅滅曹爽
正始五年（244年）春，大將軍曹爽欲立威名，不聽太傅司馬懿勸止，力主伐蜀，魏帝從之。結果為蜀前監軍、鎮北大將軍王平所敗，魏軍被阻於興勢，後方也軍糧供應不上，牛馬騾驢大量死亡，蜀涪縣及費禕[yī]援軍亦相繼到達。曹爽見不能勝，被迫聽從司馬懿的勸告，於五月率大軍退還。遭蜀軍截擊，魏軍苦戰，始得退回，失散、傷亡甚眾。
正始六年（245年）八月，曹爽廢置中壘、中堅營，把兩營兵眾統交他的弟弟曹羲率領，司馬懿援引先帝舊例制止，曹爽不聽。正始七年（246年）正月，吳兵入侵柤中，有萬餘家百姓為避吳兵，北渡沔水，司馬懿認為沔南離敵太近，倘若百姓奔還，還會引來吳兵，應該讓他們暫留北方。曹爽不同意，說：“現在不能在沔南修城守地，反而讓百姓留沔北，這不是長遠之計。”司馬懿則說：“這話不妥。放在安穩之處所則安穩，放在危險之處所則危險，人與物都是如此。所以兵書上說‘成敗在於形，安危在於勢’。形勢是駕馭眾人的關鍵，不能不審慎對待。假設吳賊以二萬人防守沔水，三萬人與我沔南諸軍對抗，一萬人猛攻柤中，我們怎么去援救呢？”曹爽不從，驅令還南。吳兵果然擊破柤中，所失百姓，數以萬計。曹爽的行為不但違背了顧命大臣應有的本分，也使魏國國力衰退，不少有志之士頗感不安，希望司馬太傅主持公道。并州刺史孫禮就去和司馬懿抱怨，司馬懿安慰他說：“且止，忍不可忍。”
正始八年（247年），曹爽用心腹何晏、鄧颺、丁謐之謀，
司馬懿詐病賺曹爽
把郭太后遷到永寧宮，一時曹爽兄弟“專擅朝政，兄弟並掌禁兵，多樹親黨，屢改制度”。五月，司馬懿偽裝生病，不問政事。正始九年（248年）三月，黃門張當把內庭才人石英等十一人送給曹爽，曹爽、何晏乘機與張當勾結，謀危社稷。曹爽及其同黨也擔心是司馬懿裝病。同年冬，河南尹李勝要到荊州任刺史，行前去拜望他。司馬懿假裝病重，李勝出來後對曹爽說：“司馬懿已像屍體一樣，臥床不起，只有殘餘之氣，形神已經分離，不值得憂慮了。”以後又說：“太傅不能康復，令人憂傷。”所以曹爽等對司馬懿未加戒備。而司馬懿表面裝病，實際上也在暗中布置，準備消滅曹爽勢力。
嘉平元年（249年）正月，魏帝曹芳離開洛陽去祭掃魏明帝的墳墓高平陵，大將軍曹爽、中領軍曹羲、武衛將軍曹訓均從行。司馬懿乘機上奏郭太后，請廢曹爽兄弟。當時，司馬師為中護軍，率兵屯司馬門，控制京都。司馬懿列陣，經過曹爽門前，曹爽部將嚴世登樓，引弩欲射，孫謙拉著他的胳膊阻止他說：“事未可知。”大司農桓范出城去投曹爽，蔣濟擔心道：“智囊往矣。”司馬懿則說：“范則智矣，駑馬戀棧豆，爽必不能用也。”司馬懿召司徒高柔假節行大將軍事，管領曹爽軍營，對他說：“君為周勃矣。”召太僕王觀行中領軍事，統攝曹羲軍營。司馬懿自率太尉蔣濟等勒兵出迎天子，駐紮在洛水浮橋。派人上奏章給皇帝陳述曹爽之罪。
曹爽扣住奏章，把曹芳留在伊水之南，砍伐樹木建成鹿角，徵發屯兵數千人以自守。桓范勸曹爽挾持皇帝到許昌去，發文書徵調天下兵馬勤王。曹爽果然疑惑，不從其計。反而夜遣侍中許允、尚書陳泰去見司馬懿，探聽動靜。司馬懿乘機數說曹爽的過失，讓他早來服罪。接著又派曹爽的親信殿中校尉尹大目去對他說，朝廷只是免他的官職，並以洛水為誓。同時，他還讓蔣濟寫信給曹爽，稱自己只是想將他們免官，勸告他儘早交出權力投降，可以保他們爵位富貴。曹爽欲信其言，桓范等人從晚上一直勸到第二天黎明。結果，曹爽投刀於地，說：“司馬懿正當欲奪吾權耳。吾得以侯還第，不失為富家翁。”桓范哭說：“曹子丹佳人，生汝兄弟，犢耳！何圖今日坐汝等族滅矣。”於是，曹爽請免職，隨曹芳回京。曹爽兄弟一回府，即被司馬懿派兵包圍。司馬懿違背諾言，以謀反的罪名殺曹爽及其黨羽何晏、丁謐、鄧颺、畢軌、李勝、桓范等，並滅三族；但對曹爽門下的二流人物，司馬懿特別寬大處理，如魯芝，辛敞，王沈等人，後來還有人成為晉朝新貴。
架空魏室
同年二月，曹芳任命司馬懿為丞相，司馬懿固辭丞相之職不受。十二月，詔命加九錫之禮，朝會不拜，司馬懿又固辭九錫。
嘉平二年（250年）春，曹芳命司馬懿在洛陽立廟。司馬懿久病，不任朝請，每遇大事，天子親自到他府中去徵詢意見。
司馬懿誅曹爽，導致曾為曹爽籠絡升為車騎將軍、開府儀同三司，後又升為司空的王凌心生不滿，與侄子令狐愚圖謀廢黜曹芳，立楚王曹彪為皇帝。還未行動，令狐愚便已死亡。
嘉平三年（251年）正月，王凌藉口吳人塞塗水，請求出兵征討。司馬懿知其陰謀，不令興兵。並於四月親率中軍討伐王凌。司馬懿故技重施，先下赦書赦免王凌之罪，寫信安慰他，但不久大軍突至。王凌自知勢窮，便獨自乘船迎接，派屬官王或請罪，送上印綬、節鉞。
司馬懿軍到武丘，王凌在水邊自縛等待，說：“我如有罪，公可用半片竹簡召回，何苦親自來呢？”司馬懿說：“因為君非折簡之客啊！”說罷，命將領率六百人馬想把王凌解送洛陽。王凌向司馬懿要棺材上的釘子，想試探一下司馬懿想不想殺自己，司馬懿命手下人找來送給他。五月，王凌到項城，絕望，服毒而死。
司馬懿進軍壽春，參與王凌之謀的人都出來自首。司馬懿推知其事，凡牽連在內的一律誅滅三族。派人挖開王凌、令狐愚的墳墓，在附近的市上，剖棺暴屍三天，然後，燒掉他們的印綬、官服埋於土中。司馬懿最終逼楚王曹彪自盡，並趁機把魏之王公全部拘捕，放置鄴城，命有司監察，不準他們互相交結往來。
去世辭封
曹芳策命司馬懿為相國，封安平郡公，孫及兄子各一人為列侯，前後食邑五萬戶，封侯者十九人。司馬懿固辭相國、郡公之位不受。
嘉平三年八月戊寅（251年9月7日），司馬懿在洛陽去世，享年七十三歲。當年九月庚申，司馬懿被葬於河陰首陽山，諡文貞，追封相國、郡公，司馬孚秉承他的遺願，辭讓郡公和殊禮，遺命簡葬，作顧命三篇，斂以時服，不樹不墳，不設明器。諡號後改為文宣。但《三國志》和《晉書·文帝紀》均記載諡號為“宣文”，故多以後者為準。同年十一月，有司奏請將各位已故功臣的靈位置於魏太祖廟中，以配享祭祀，排位以生前擔任的官職大小為序。太傅司馬懿因位高爵顯，列為第一。
司馬昭封晉王后，追封司馬懿為宣王；鹹熙二年（265年），司馬昭之子晉武帝司馬炎受魏禪，給司馬懿上尊號為宣皇帝，稱其陵墓為高原陵，廟號高祖。
