司马懿，字仲达，今河南温县人。东汉以来，家世二千石。父司马防，曾任京兆尹。司马炎称帝后，追尊其为宣皇帝，庙号高祖。在陈寿的《三国志》中，司马懿一出场已是国之干臣，接受魏文帝曹丕的托孤重任。出仕前的经历，则散见于裴松之的注中。完成于唐初的《晋书·宣帝纪》，是现在所能看到有关这段经历最早的完整记载。从相关内容看，司马懿似曾有过一段避世不出的隐逸生活。
青年“隐士”
建安六年，郡举司马懿为上计掾（就是佐理地方长官向上呈报治理情况的官吏）。曹操当时为司空（掌监察），“闻而征之”。但司马懿以患“风痹”（风寒引起的肢节疼痛、麻木）不能起居为由，予以婉拒。曹操不信，派人假扮刺客，夜间行刺，谁知对方坚卧不动，故只得作罢。
建安十三年，曹操为丞相，欲再次征辟司马懿。据王隐《晋书》记载，也许曹操对司马懿七年前的表演有所耳闻，遂派遣手下的令史前往探查。这位令史就隐匿在司马懿家门前的树林里，窥伺宅院中的动静。时值七夕，风俗中有“曝书”一事，司马懿也未能免俗。不巧的是，突下暴雨，司马懿慌忙出来收书。要知道，得了“风痹”的病人，行动艰难，坚卧不动才是常态。也就是这一时的冲动，被藏匿在树林里的令史看个正着，遂回去禀报曹操。曹操对司马懿的阳奉阴违十分恼火，决定再下辟书，并命令执行者：司马懿若再敢耍花招，立即逮捕收监。于是，司马懿“惧而就职”。
对于司马懿第一次拒绝征辟的原因，东晋南朝以来的史书大都以儒家忠君思想予以解释。例如，《晋书·宣帝纪》云：“司马懿少有奇节，聪明多大略，博学洽闻，伏膺儒教。汉末大乱，常慨然有忧天下心……帝知汉运方微，不欲屈节曹氏。”又据《高士传》记载，司马懿二十多岁时，曾与大隐士胡昭关系密切。天下有道则仕，无道则隐。据此，不少学者认为，青年时期的司马懿有明显的避世倾向，后来只是对抗不了曹操的严刑峻法，无奈结束隐士生活。
故事的内容很完整，但疑点实在太多。事实上，青年时期的司马懿并不像诸葛亮那样有“卧龙”之盛名，且在清议鼎盛的汉末，拒辟以养名，几乎是每一个被征辟者例行的程序。因此，曹操因一个“齿少名微”的司马懿，就派人佯装刺杀、微服私访、恫吓威逼，实在不合情理。又据裴松之注引《曹瞒传》，司马懿之父司马防任尚书右丞时，推荐了二十岁的孝廉曹操为洛阳北部尉。建安二十一年五月，曹操为魏王后，还专门将司马防请到邺都叙旧。故曹操辟举司马懿在很大程度上带有报恩之意，“在东汉官僚阶层中，一俟自己发达之后，提携、关照、惠及恩主后人，已经形成传统”。
此外，司马懿的长兄司马朗，自建安元年起便应辟为曹操掾属，官至兖州刺史，是建安时期曹操集团的重要人物。可见，司马氏家族与曹操关系之密切。何况，建安二十四年，孙权遣使乞降，向曹操上表称臣，陈说天命。曹操曾对众人说：“此儿，欲踞吾著炉炭上邪！”司马懿的回答却是：“汉运垂终，殿下十分天下而有其九，以服事之。权之称臣，天人之意也。虞、夏、殷、周不以谦让者，畏天知命也。”这实在不是一个忠于汉室、不欲屈节曹氏之人会说的话。
司马懿之所以婉拒曹操，除了是当时被征辟者例行的程序外，更合理的解释应是：虽然曹操赢得官渡之战的胜利，但北方时局未稳，而司马氏家族已由司马朗明确表示了对曹操的归附，因而司马懿在面对自己的未来和前途时，无需急于做出选择。同时，留驻乡里也能在乱局中保全自己的家族。这正显示了青年司马懿的政治智慧。
曹魏谋士
虽然被曹操招至身边，但司马懿始终未获得重用。有个故事说：曹操曾梦见三匹马同食一槽（司马懿、司马昭、司马师合三马，曹与槽同音），十分厌恶。因此，他对曹丕说：“司马懿非人臣也，必预汝家事。”不过，曹操既然如此猜忌，为何不直接杀掉，岂不落得个干净利落。因此，这个故事“恐怕是后来之笔，非当时的实录”。
虽然未获重用，但司马懿还是在不少事情上为曹操建言献策，充分展示了自己的政治谋略。较突出的有下面三件事：
其一，建安二十年，曹操亲自率领大军西征，汉中张鲁放弃抵抗，表示归顺。在准备班师回朝时，曹操手下的一位重要谋士刘晔和司马懿同时进言。司马懿认为，刘备以奸诈的方式收服了益州牧刘璋，但蜀地之人尚未完全依附于刘备。此时，孙刘两家还在争夺江陵之地，这正是一个千载难逢的有利时机。曹操应挟收复汉中的威势，进兵益州，一举消灭刘备的势力，并强调“因此之势，易为功力。圣人不能违时，亦不失时矣”。但曹操回答“人若无足，既得陇右，复欲得蜀”，并未采纳他们的建议。这就是成语“得陇望蜀”的由来。但这次的不听取，日后令曹操极为痛悔。
其二，建安二十四年，关羽率军进攻驻守樊城的曹仁。曹操派遣于禁、庞德前去救援。关羽借助汉水之利，水淹七军，斩杀庞德，迫使于禁投降。时汉献帝在许昌，离樊城很近。曹操怕失去“挟天子以令诸侯”这张王牌，欲迁都河北，以避关羽的兵锋。司马懿等人建言：于禁等人的失利是被水所淹没，并非战斗能力不足，且这点军队的损失并未伤及国家根本。贸然迁都，示敌以弱，难免动摇军心，前线将更难坚守。况且，孙刘虽暂时联合，但外亲内疏，关羽节节获胜，必是孙权不愿看见的。可派人前往，许割江南以封孙权，则围困自解。曹操接纳了这个建议，暗地与东吴联络，达成联合抗蜀的密谋。结果，关羽在双方的夹攻下，众叛亲离，一败涂地，自己也落得个身首异处。更为重要的是，自此以后诸葛亮原先规划的一路向宛洛、一路出秦川的钳击中原计划再也无法实现。
其三，建安末，司马懿任军司马，向曹操建议：“天下不耕者二十余万”兵士，且耕且守。曹操听从他的建议，于是“务农积谷，国用封赡”。这些描述，固然有夸张之辞，但不能否认，粮食问题的确得到了缓解。曹魏后期的军屯，大都与司马懿的倡导和督促有关。例如，上邽的军屯就是他于太和四年倡议建立的。司马懿屯驻长安、主持对蜀汉战争后，为了增强自身实力，更加重视关中地区军屯的建设。青龙元年，在司马懿的组织下，“穿成国渠，筑临晋陂，溉田数千顷”。由于大规模水利设施的修建，实现了“国以充实”的效果。两年后，关东地区发生饥荒，司马懿竟能调集长安的五百万斛余粮运往京师洛阳，赈济救灾。
作为谋士，知人善任也是司马懿的重要特点。他曾向曹操提出，荆州刺史胡脩粗暴，南乡太守傅方骄奢，不适合在边境地区任地方长官。但是，曹操并未采纳他的建议。后来，“关羽围曹仁于樊，于禁等七军皆没，脩、方果降羽”。
又如，石苞在长安的军市里卖铁，被司马懿发现，颇为赏识，“后擢为尚书郎，历青州刺史、镇东将军”。尚书丁谧“贵倾一时，并较时利”，石苞大胆列举其违法之事，上奏揭发，受到时人称赞。嘉平四年，司马昭统领胡遵、诸葛诞等攻打东吴，石苞随同出战。东吴太傅诸葛恪在东兴迎击，曹魏各部纷纷溃败，不少人因践踏和溺水而死，但石苞所率领的部队全身而退。
还有邓艾，因为口吃而只能做一名守丛草吏。但他志向远大、善于观察，每到高山大泽，就考虑何处可以安营扎寨。后来担任典农纲纪，又迁上计吏，得以和司马懿相见。通过交谈，司马懿发现邓艾学识才干十分出众，就请他做了自己的掾属，后来又让他做了尚书郎。司马懿在淮南、淮北地区的屯田，就是与邓艾一起筹划的，具体的组织实施也交由邓艾完成。此外，邓艾还是曹魏后期重要的军事人才，在抵御姜维的进犯、消灭蜀汉政权过程中立下了汗马功劳。
司马懿与魏文帝曹丕的关系极为密切。魏国既建，司马懿迁太子中庶子。每与大谋，辄有奇策，为太子所信重。不仅如此，日本学者津田资久指出，黄初三年册立郭贵殡为曹丕皇后时，提及“金玺未授，而玉瑞先显”。所谓“玉瑞”，当指“黄初二年，醴泉出，河内郡玉璧一枚”。河内郡是司马氏的籍贯地，司马懿显然深度参与了这次的立后运动。
黄初三年，孙权复叛之后，又两次兴兵伐吴，在这样的情况下，必须要有值得信赖且有谋略的人来镇守后方。司马懿正是曹丕看中的人选。他在诏令中明言：“若吾临江授诸将方略，则抚军当留许昌，督后诸军，录后台文书事。”至此，司马懿已成为曹魏最重要的谋士之一。黄初七年，曹丕去世，“召中军大将军曹真、镇军大将军陈群、征东大将军曹休、抚军大将军司马宣王（司马懿），并受遗诏辅嗣主”。
无双“国士”
曹丕在位期间，司马懿主要的工作是稳定后方，因此没有太过耀眼的功绩，也没有什么率大军作战的经历，在四位顾命大臣中排名最末。到平定孟达之叛一事上，司马懿才在军事上真正崭露锋芒。
孟达原为蜀将，关羽失败后投降曹魏。曹丕合并房陵等3郡为新城郡，以孟达为太守。孟达原为刘璋手下，却去荆州迎刘备入川，后又归降曹魏，因而被视为“反复之人”。司马懿颇为反感他，在任命其为太守一事上，自然极力反对。魏文帝死后，孟达心自不安。诸葛亮得知后，劝他重回蜀汉，双方数有密信往来。太和元年底，司马懿得知孟达“连吴固蜀，潜图中国”的消息，于是一面写信假意安抚孟达，一面迅速进兵新城，八天就到达新城城下。孟达大惊，他曾认为司马懿就算知道他举事后，也要先上表天子，再由天子颁发诏书，一般需要1个月的时间。这段时间内，足够他加固城防工事、囤积粮草、整肃军队。而且，司马懿知道此地地势险要，易守难攻，想来不会亲自前来。
可是，司马懿并未表上天子，而是便宜行事，亲自领兵并以迅雷不及掩耳之势兵临城下。司马懿的到来完全打乱了孟达的部署，使其陷于极为被动的局面。当时，“孟达众少而食支一年”，魏军“四倍于达而粮不淹月”。在这种情况下，司马懿决定采取速战速决的方式。他一面分兵抗拒蜀汉和东吴的援军，一面亲率主力猛攻，最终仅用16天的时间，攻破城池，斩孟达。叛乱的迅速平定，直接打乱了诸葛亮的北伐部署。
太和五年，诸葛亮再次北伐。魏明帝曹叡调司马懿西屯长安，都督雍、梁二州诸军事，担负起直接抵抗诸葛亮的重责。诸葛亮听闻司马懿率领的大军就要赶到，于是指挥军队移师上邽。上邽是司马懿倡议建立的军屯之所，当时正当麦熟季节，因此诸葛亮准备将麦子尽数收割。同时，由于诸葛亮北伐战线过长、补给困难，如果尽得上邽的麦子，无异于如虎添翼。对此，曹魏诸将感到十分恐慌。但司马懿认为，诸葛亮思考问题很全面，却缺乏决断力，一定会先安营扎寨，构筑好防御工事，再开始收割麦子。所以，还有两天的时间昼夜兼行。于是，司马懿命令军队急行军。当曹魏军队赶到时，蜀军的工事尚未修好，诸葛亮不得不领军撤退。
景初元年，辽东公孙渊自立为燕王，属置百官。第二年春，司马懿领兵四万出征。六月至辽东，双方对垒于辽隧。辽东军坚壁而守，南北六七十里。诸将都想在此进行决战。但司马懿指出，敌军构筑坚固的防御工事，正是希望我们派军攻打，久攻不下，我军疲惫不堪，敌军就会寻机出击。敌军主力尽皆在此，后方一定空虚，不如直捣襄平，破之必矣。于是，多张旗帜出其南，辽东方面果然尽遣精锐大军迎击。但背地里，司马懿率主力从北潜渡辽水直趋襄平。辽东军队被迫回追，双方在西首山遭遇。司马懿借助地理优势，大破敌军，遂围困襄平城。
不料，天空突然下起了暴雨，连续一个月不停，平地上的积水达数尺深。魏军惊恐，想另找干燥之处安营。可一旦撤围，公孙渊的军队就可以从容退走。于是，司马懿严令军中：“有言徙者斩。都督令史张静犯令，斩之，军中乃定。”等大雨停了后，司马懿“起土山地道，楯橹钩橦，发矢石雨下，昼夜攻之”。公孙渊数次派人请求“解围而缚”，都被司马懿拒绝。无奈之下，公孙渊从南方突围。司马懿纵兵追击，杀渊父子于梁水之上。此役，司马懿的军事才干得到了充分展现。
魏明帝曹叡在位期间，司马懿的政治声望急剧上升。先后负责对东吴、蜀汉的战争，南擒孟达、西拒诸葛亮、北平公孙渊，成为魏国公认最杰出的军事统帅。连孙权都称赞他“善用兵，变化若神，所向无前”，对司马懿颇有微词的唐太宗也赞誉他“兵动若神，谋无再计”。随着另外三位顾命大臣及其他元老重臣相继离世，特别是平定公孙渊取得大胜以后，司马懿的威望和实际地位在曹魏诸臣中已无出其右者，可称得上当时的“无双国士”。
但与此相应，功高震主、主弱臣强的局面也随之形成。立有赫赫战功的曹操旧将张郃，因司马懿的一意孤行而命丧疆场，曹叡对此也只能叹息。史料记载，魏明帝忧社稷，问陈矫：“司马公忠正，可谓社稷之臣乎？”陈矫曰：“朝廷之望；社稷，未知也。”可见，曹叡对司马懿有了猜忌之心。景初二年十二月，曹叡突然病危，不到一个月就去世，葬于高平陵。年幼的曹芳登基，主弱臣强之势更甚。其后，同为顾命的曹爽和司马懿两大集团角力，终成高平陵之变。虽然司马懿在两年半后也病逝了，但司马代魏的大幕徐徐拉开