庞统道：“主公，召我等前来是否商议该不该留下曹操？”
张浪道：“正是！召诸位前来，正是商议是否留下曹操此人。”
郭家道：“曹操乃曹营统帅，即称曹营之虎。然司马懿此人岁不显山露水，但怀县一战也初显锋芒，假以时日也是一虎，虽然身在曹营但此人城府颇深，心计极强。正如主公所言，极有可能在曹操死后控制曹营。”
庞统却不以为然道：“司马懿纵然有如此心机，但想控制曹营手下千军万马，可能也是难如登天吧？何况他只是曹操手下一员大将，而且并无实权，奉孝所言未免太过危言耸听了吧？”
张浪见两人又起了不同意见，也没有阻止。郭嘉见张浪并没有说话的意思，便继续道：“士元，有所不知，司马懿此人的确有其过人之处，不得不防啊！”
庞统却想“自己从未听说过此人名号，若不是怀县领军攻城，查点生擒张浪，还真不知道司马懿的存在，但庞统见郭嘉如此推崇司马懿，而且郭嘉平时绝随便夸奖一个人，这司马懿究竟何许人也？”这时他才不得不认真思考一下。便接着道：“奉孝所言之人，统确实不知。”
郭嘉道：“士元，喜隐居山林、求学四海。而此人虽在曹营，却一直未得重用，因无战功又无人举荐所以只好默默的等待机会的来临，能在曹营潜伏这么久，才是真正的可怕之处！司马懿其先出自帝高阳之子重黎，为夏官祝融，历唐、虞、夏、商，世序其职。周朝，以夏官为司马。其后程柏休父，周宣王时，以世官克平徐方，锡以官族，因而为氏。楚汉间，司马仰为赵将，与诸侯伐秦。秦亡，立为殷王，都河内。汉以其地为郡，子孙遂以为家。自仰八世，至东汉安帝时，生征西将军钧，字叔平。司马钧生豫章太守量，字公度。量生颍川太守司马俊，字元异。俊生京兆尹司马防，字建公。司马防就是司马懿的父亲，司马懿为司马防次子，史书称他“少有奇节，聪明多大略，博学洽闻，伏膺儒教”南阳太守杨俊素以知人善任著称，司马懿二十岁前，杨俊曾见过他，说他绝非寻常之之；尚书崔琰与司马懿的兄长司马朗交好，曾对司马朗说：“君弟聪亮明允，刚断英特，非子所及也”建安六年（201年），郡中推举他为上计椽。时曹操正任司空，听到他的名声后，派人召他到府中任职。司马懿见汉朝国运已微，不想在曹操手下，便借口自己有风痹病，身体不能起居。曹操不信，派人夜间去刺探消息，司马懿躺在那里，一动不动，像真染上风痹一般。建安十三年（208），曹操为丞相以后，始用强制手段辟司马懿为文学掾。曹操对使者说，“若复盘桓，便收之”》）。司马懿惧之，只得就职。曹操让他与太子往来游处，历任黄门侍郎、议郎、丞相东曹属、丞相主薄等职。司马懿在曹操手下任职，小心谨慎，勤勤恳恳，“至于刍牧之间，悉皆临履”。建安二十年（215年），曹操征讨张鲁，司马懿随军。他对曹操说：“刘备以诈力虏刘璋，蜀人未附而远争江陵，此机不可失也。今若曜威汉中，益州震动，进兵临之，势必瓦解。因此之势，易为功力。圣人不能违时，亦不失时矣。”曹操说：“人苦无足，既得陇右，复欲得蜀”！没有采纳他的建议。
庞统道：“如此说来，司马懿此人绝非泛泛之辈，虽是如此统还是认为以司马懿现在的官职想要控制曹营，也绝非易事！”
张浪惊道：“奉孝，对司马懿的分析还是很透彻的嘛！司马懿此人绝非泛泛之辈”张浪之所以会帮郭嘉说是因为他想到一些更可怕的事，他记得“在建安二十四年（219），当孙权向曹操上表称臣、怂恿曹操自立为帝。曹操说：“此儿欲踞吾著炉炭上邪！”司马懿说：“汉运垂终，殿下十分天下而有其九，以服事之。权之称臣，天人之意也。虞、夏、殷、周不以谦让者，畏天知命也”。当时曹操手下的门阀官僚拥汉者尚多，为曹操所深忌，而荀彧、崔琰等著名人物都因对曹氏代汉有异议而不得善终。大概司马懿在这个关键问题上早就表示支持曹操，因此曹操才对他由猜忌逐渐转为信任。
曹操进封魏王后，升任司马懿为太子中庶子，佐助曹丕。时司马懿“每与大谋，辄有奇策”，为曹丕所信任和重用，所以关系一直很好。司马懿还与陈群、吴质、朱铄并称四友。此后，司马懿更是常谋国事，多出奇策。不久，司马懿转为丞相军司马。他指出荆州刺史胡修粗暴，南乡（治南乡，今河南淅川东南）太守傅方骄奢，都不应驻守边防，曹操未予重视。
同年六月，刘备继取汉中后，派孟达、刘封攻占汉中郡东部的房陵、上庸等地，势力有所扩展。七月，孙权欲攻合肥，魏军大部调动淮南防备吴军。镇守荆州的蜀前将军关羽，乘此机会，留南郡（治江陵，今湖北江陵）太守糜芳守江陵，将军傅士仁守公安（今湖北公安西北），自率主力北攻荆襄（魏荆州治新野，今河南新野；襄阳郡治襄阳，今湖北襄樊）。围魏将曹仁，水淹于禁七军，斩庞德。时樊城守军仅数千人，城墙因水淹多处崩塌，曹仁曾考虑放弃樊城，被辅助曹仁的汝南太守满宠所劝止。曹仁决心奋勇抵御。胡、傅二人果然乘机降蜀。此时，陆浑（今河南嵩县东北）人孙狼等，亦杀官起兵，响应关羽。关羽声势一时“威震华夏”
当时都城在许昌，距樊城很近，曹操感到威胁，为避关羽锋芒，一度准备迁都河北。司马懿和曹椽蒋济及时劝阻：“禁等为水所没，非战守之所失，于国家大计未有所损，而便迁都，既示敌以弱，又淮沔之人大不安矣。孙权、刘备，外亲内疏，羽之得意，权所不愿也。可喻权所，令掎其后，则樊围自解”。曹操从其计，孙权果然派吕蒙袭取江陵，关羽被其俘杀。
此战的胜利，曹操利用孙、刘争夺荆州的矛盾，充分运用外交谋略，坐收渔利，不仅挫败关羽的强大攻势，解除了樊城之围，而且也使诸葛亮原定的一路向宛洛、一路出秦川的两面钳击中原的计划无法实现。更重要的是破坏孙、刘联盟，改变了当时的战略格局，掌握了主动权。
徐晃击退关羽后，曹操嫌恶荆州及附近百姓，想把他们都迁走。司马懿认为：“荆楚轻脱，易动难安。关羽新破，诸为恶者藏窜观望。今徙其善者，既伤其意，将令去者不敢复还”。曹操从之，没有移民。藏窜逃亡者果然都复出归化。
延康元年（220年），曹操去世，朝野危惧，司马懿管理丧葬诸事，内外肃然。
同年，曹丕即魏王位，司马懿受封河津亭侯，转丞相长史。
时孙权率军向西。朝臣认为樊城、襄阳缺乏粮，不能抵御吴军，请召守将曹仁回驻宛城。司马懿则认为不该放弃二城：“孙权新破关羽，此其欲自结之时也，必不敢为患。襄阳水陆之冲，御寇要害，不可弃也”。曹丕未依其言，命曹仁放火烧毁二城。后来孙权果然没有入侵。曹丕悔之不及。
同年，曹丕登皇帝位，史称魏文帝。由于司马懿为曹丕“篡汉”出了大力，所以登基后，曹丕任命司马懿为尚书，不久转督军、御史中丞，封安国乡侯。
黄初二年（221年），免去督军官职，升任侍中、尚书右仆射。
黄初三年（222年），和黄初五年（224年），曹丕两次伐吴，都以司马懿镇守许昌，并改封司马懿为向乡侯。黄初六年（225年）春二月，转任抚军大将军、假节，领兵五千，加给事中、录尚书事。司马懿辞让，曹丕说：“吾于庶事，以夜继昼，无须臾宁息。此非以为荣，乃分忧耳”。
同年，曹丕又大兴水军攻吴，仍命司马懿留守，“内镇百姓，外供军资”。临行，下诏书给司马懿说：“吾深以后事为念，故以委卿。曹参虽有战功，而萧何为重。使吾无西顾之忧，不亦可乎”！后曹丕由广陵回师洛阳，又下诏对司马懿说：“吾东，抚军当总西事；吾西，抚军当总东事”。于是司马懿留镇许昌。”