龐統道：“主公，召我等前來是否商議該不該留下曹操？”
張浪道：“正是！召諸位前來，正是商議是否留下曹操此人。”
郭家道：“曹操乃曹營統帥，即稱曹營之虎。然司馬懿此人歲不顯山露水，但懷縣一戰也初顯鋒芒，假以時日也是一虎，雖然身在曹營但此人城府頗深，心計極強。正如主公所言，極有可能在曹操死後控制曹營。”
龐統卻不以爲然道：“司馬懿縱然有如此心機，但想控制曹營手下千軍萬馬，可能也是難如登天吧？何況他只是曹操手下一員大將，而且並無實權，奉孝所言未免太過危言聳聽了吧？”
張浪見兩人又起了不同意見，也沒有阻止。郭嘉見張浪並沒有說話的意思，便繼續道：“士元，有所不知，司馬懿此人的確有其過人之處，不得不防啊！”
龐統卻想“自己從未聽說過此人名號，若不是懷縣領軍攻城，查點生擒張浪，還真不知道司馬懿的存在，但龐統見郭嘉如此推崇司馬懿，而且郭嘉平時絕隨便誇獎一個人，這司馬懿究竟何許人也？”這時他纔不得不認真思考一下。便接着道：“奉孝所言之人，統確實不知。”
郭嘉道：“士元，喜隱居山林、求學四海。而此人雖在曹營，卻一直未得重用，因無戰功又無人舉薦所以只好默默的等待機會的來臨，能在曹營潛伏這麼久，纔是真正的可怕之處！司馬懿其先出自帝高陽之子重黎，爲夏官祝融，歷唐、虞、夏、商，世序其職。周朝，以夏官爲司馬。其後程柏休父，周宣王時，以世官克平徐方，錫以官族，因而爲氏。楚漢間，司馬仰爲趙將，與諸侯伐秦。秦亡，立爲殷王，都河內。漢以其地爲郡，子孫遂以爲家。自仰八世，至東漢安帝時，生徵西將軍鈞，字叔平。司馬鈞生豫章太守量，字公度。量生潁川太守司馬俊，字元異。俊生京兆尹司馬防，字建公。司馬防就是司馬懿的父親，司馬懿爲司馬防次子，史書稱他“少有奇節，聰明多大略，博學洽聞，伏膺儒教”南陽太守楊俊素以知人善任著稱，司馬懿二十歲前，楊俊曾見過他，說他絕非尋常之之；尚書崔琰與司馬懿的兄長司馬朗交好，曾對司馬朗說：“君弟聰亮明允，剛斷英特，非子所及也”建安六年（201年），郡中推舉他爲上計椽。時曹操正任司空，聽到他的名聲後，派人召他到府中任職。司馬懿見漢朝國運已微，不想在曹操手下，便藉口自己有風痹病，身體不能起居。曹操不信，派人夜間去刺探消息，司馬懿躺在那裡，一動不動，像真染上風痹一般。建安十三年（208），曹操爲丞相以後，始用強制手段闢司馬懿爲文學掾。曹操對使者說，“若覆盤桓，便收之”》）。司馬懿懼之，只得就職。曹操讓他與太子往來遊處，歷任黃門侍郎、議郎、丞相東曹屬、丞相主薄等職。司馬懿在曹操手下任職，小心謹慎，勤勤懇懇，“至於芻牧之間，悉皆臨履”。建安二十年（215年），曹操征討張魯，司馬懿隨軍。他對曹操說：“劉備以詐力虜劉璋，蜀人未附而遠爭江陵，此機不可失也。今若曜威漢中，益州震動，進兵臨之，勢必瓦解。因此之勢，易爲功力。聖人不能違時，亦不失時矣。”曹操說：“人苦無足，既得隴右，復欲得蜀”！沒有采納他的建議。
龐統道：“如此說來，司馬懿此人絕非泛泛之輩，雖是如此統還是認爲以司馬懿現在的官職想要控制曹營，也絕非易事！”
張浪驚道：“奉孝，對司馬懿的分析還是很透徹的嘛！司馬懿此人絕非泛泛之輩”張浪之所以會幫郭嘉說是因爲他想到一些更可怕的事，他記得“在建安二十四年（219），當孫權向曹操上表稱臣、慫恿曹操自立爲帝。曹操說：“此兒欲踞吾著爐炭上邪！”司馬懿說：“漢運垂終，殿下十分天下而有其九，以服事之。權之稱臣，天人之意也。虞、夏、殷、周不以謙讓者，畏天知命也”。當時曹操手下的門閥官僚擁漢者尚多，爲曹操所深忌，而荀彧、崔琰等著名人物都因對曹氏代漢有異議而不得善終。大概司馬懿在這個關鍵問題上早就表示支持曹操，因此曹操纔對他由猜忌逐漸轉爲信任。
曹操進封魏王后，升任司馬懿爲太子中庶子，佐助曹丕。時司馬懿“每與大謀，輒有奇策”，爲曹丕所信任和重用，所以關係一直很好。司馬懿還與陳羣、吳質、朱鑠並稱四友。此後，司馬懿更是常謀國事，多出奇策。不久，司馬懿轉爲丞相軍司馬。他指出荊州刺史胡修粗暴，南鄉（治南鄉，今河南淅川東南）太守傅方驕奢，都不應駐守邊防，曹操未予重視。
同年六月，劉備繼取漢中後，派孟達、劉封攻佔漢中郡東部的房陵、上庸等地，勢力有所擴展。七月，孫權欲攻合肥，魏軍大部調動淮南防備吳軍。鎮守荊州的蜀前將軍關羽，乘此機會，留南郡（治江陵，今湖北江陵）太守糜芳守江陵，將軍傅士仁守公安（今湖北公安西北），自率主力北攻荊襄（魏荊州治新野，今河南新野；襄陽郡治襄陽，今湖北襄樊）。圍魏將曹仁，水淹于禁七軍，斬龐德。時樊城守軍僅數千人，城牆因水淹多處崩塌，曹仁曾考慮放棄樊城，被輔助曹仁的汝南太守滿寵所勸止。曹仁決心奮勇抵禦。胡、傅二人果然乘機降蜀。此時，陸渾（今河南嵩縣東北）人孫狼等，亦殺官起兵，響應關羽。關羽聲勢一時“威震華夏”
當時都城在許昌，距樊城很近，曹操感到威脅，爲避關羽鋒芒，一度準備遷都河北。司馬懿和曹椽蔣濟及時勸阻：“禁等爲水所沒，非戰守之所失，於國家大計未有所損，而便遷都，既示敵以弱，又淮沔之人大不安矣。孫權、劉備，外親內疏，羽之得意，權所不願也。可喻權所，令掎其後，則樊圍自解”。曹操從其計，孫權果然派呂蒙襲取江陵，關羽被其俘殺。
此戰的勝利，曹操利用孫、劉爭奪荊州的矛盾，充分運用外交謀略，坐收漁利，不僅挫敗關羽的強大攻勢，解除了樊城之圍，而且也使諸葛亮原定的一路向宛洛、一路出秦川的兩面鉗擊中原的計劃無法實現。更重要的是破壞孫、劉聯盟，改變了當時的戰略格局，掌握了主動權。
徐晃擊退關羽後，曹操嫌惡荊州及附近百姓，想把他們都遷走。司馬懿認爲：“荊楚輕脫，易動難安。關羽新破，諸爲惡者藏竄觀望。今徙其善者，既傷其意，將令去者不敢復還”。曹操從之，沒有移民。藏竄逃亡者果然都復出歸化。
延康元年（220年），曹操去世，朝野危懼，司馬懿管理喪葬諸事，內外肅然。
同年，曹丕即魏王位，司馬懿受封河津亭侯，轉丞相長史。
時孫權率軍向西。朝臣認爲樊城、襄陽缺乏糧，不能抵禦吳軍，請召守將曹仁回駐宛城。司馬懿則認爲不該放棄二城：“孫權新破關羽，此其欲自結之時也，必不敢爲患。襄陽水陸之衝，禦寇要害，不可棄也”。曹丕未依其言，命曹仁放火燒燬二城。後來孫權果然沒有入侵。曹丕悔之不及。
同年，曹丕登皇帝位，史稱魏文帝。由於司馬懿爲曹丕“篡漢”出了大力，所以登基後，曹丕任命司馬懿爲尚書，不久轉督軍、御史中丞，封安國鄉侯。
黃初二年（221年），免去督軍官職，升任侍中、尚書右僕射。
黃初三年（222年），和黃初五年（224年），曹丕兩次伐吳，都以司馬懿鎮守許昌，並改封司馬懿爲向鄉侯。黃初六年（225年）春二月，轉任撫軍大將軍、假節，領兵五千，加給事中、錄尚書事。司馬懿辭讓，曹丕說：“吾於庶事，以夜繼晝，無須臾寧息。此非以爲榮，乃分憂耳”。
同年，曹丕又大興水軍攻吳，仍命司馬懿留守，“內鎮百姓，外供軍資”。臨行，下詔書給司馬懿說：“吾深以後事爲念，故以委卿。曹參雖有戰功，而蕭何爲重。使吾無西顧之憂，不亦可乎”！後曹丕由廣陵回師洛陽，又下詔對司馬懿說：“吾東，撫軍當總西事；吾西，撫軍當總東事”。於是司馬懿留鎮許昌。”