此时刘备刚占据益州不久，正和孙权为争夺荆州闹得不可开交。汉中是益州的咽喉之地，曹操占领汉中，蜀中人人自危。
司马懿认为这是夺取益州的好时机，他对曹操说：“刘备以诈力虏刘璋，蜀人未附，而远争江陵，此机不可失也。今克汉中，益州震动，进兵临之，势必瓦解。圣人不能违时，亦不可失时也。”但曹操没有接受他的意见。七日后，从蜀地投降过来的人说：“蜀中一日数十惊，守将虽斩之而不能安也”，曹操深感后悔。
建安二十四年（公元219年），蜀将关羽包围襄阳、樊城，于禁等七军被淹，许都受到威胁，曹操打算迁都避其锋芒。此时已升任丞相军司马的司马懿和西曹属蒋济劝阻说：迁都既让敌人看出我们虚弱的一面，又使淮水、汉水一带的人民恐惧不安，因此并非良策。孙权和刘备外亲内疏，关羽得胜，孙权一定不高兴，如果派人劝孙权出兵袭击关羽的后方，这样襄樊之围就可不战自解。曹操接纳了他们的意见。不久，孙权派大将吕蒙西袭公安、江陵。关羽还救，兵败被杀，襄樊之围随之而解。
“雄豪志”被人察觉
“狼顾”相引人猜忌
三国时期烽烟四起，战乱频仍，民不聊生，土地荒芜。司马懿在担任魏太子中庶子和丞相军司马期间，“每与大谋，辄有奇策。”考虑到当时粮食供应不足，司马懿提出军队和国家应以食为先，建议且耕且守，实行军屯。
司马懿对曹操说:“昔箕子陈谋，以食为首，今天下不耕者盖二十余万，非经国远筹也，虽戎甲未卷、自宜且耕且守。”曹操采纳了他的意见，于是务农积谷，国用丰赡。
曹操不仅是军事政治上的奇才，在知人识人方面也很有眼光。史籍称他“知人善察，难眩以伪。识拔奇才，不拘微贱，随能任使，皆获其用”。对于足智多谋、胸怀大志的司马懿，他既欣赏他的才能，又心存猜忌。
据《晋书·宣帝纪》记载：“魏武（曹操）察帝（司马懿）有雄豪志，闻有狼顾相，欲验之。乃召使前行，令反顾，面正向后而身不动。又尝梦三马同食一槽，甚恶焉。因谓太子丕曰：'司马懿非人臣也，必预汝家事。'太子素与帝善，每相全佑，故免。帝于是勤于吏职，夜以忘寝，至于刍牧之间，悉皆临履，由是魏武意遂安。”
由此可知，曹操猜忌司马懿主要有三个原因：一是察觉他有“雄豪志”，担心子孙后代驾驭不了他；二是发现司马懿有“狼顾”之相，所谓“狼顾”之相就是行走向后望时头动身不动；三是曾梦见“三马同食一槽”。司马姓有“马”字，“槽”与“曹”同音，这个梦有司马氏吃掉曹氏的寓意。曹操感到这是个不祥之兆，所以对曹丕说司马懿“非人臣”，打算除掉他。但曹丕对司马懿十分信任，并没有将父亲的话放在心上，反而处处保护司马懿。司马懿也觉察到曹操对他有疑心，更加勤于职守，日以继夜地工作，事无大小亲力亲为，这才逐渐打消了曹操的疑虑。
伺机消灭曹爽集团
魏黄初元年（公元220年），曹操死于洛阳，曹丕继位为魏王、丞相。十月，曹丕使群臣逼汉献帝行禅让之礼，正式登上皇位，是为魏文帝，曹丕先后任命司马懿为尚书、督军、御史中丞、侍中、尚书右仆射。
黄初五年（公元224年），魏文帝亲征吴国，委任司马懿为抚军大将军、假节，加给事中、录尚书事，领兵五千，留镇许昌。魏文帝临终前，司马懿与中军大将曹真、镇军大将军陈群共同辅政。魏明帝曹睿即位后，同样对司马懿深信不疑，对他委以重任。太和元年（公元227年），诏司马懿率所部屯宛城（今河南南阳），都督荆、豫二州诸军事，从此，司马懿成了掌握实权的一方统帅。
不久，新城郡太守孟达叛魏降蜀，司马懿一面写信稳住孟达，一面潜军进讨，昼夜兼行，八日至上庸城（新城郡治所）下，十六日而灭孟达。太和四年（公元230年），司马懿升任大将军。
这时蜀国丞相诸葛亮与吴国联合，不断出兵攻魏，严重威胁魏国西部地区的安全。明帝命令司马懿驻扎长安，统领关陇诸军对抗诸葛亮，因御蜀有功，青龙三年（公元235年），司马懿被升为太尉，成为全国的军事首脑。
公元238年，明帝死，司马懿与大将军曹爽受遗诏辅佐8岁的少帝曹芳。曹爽想专制朝政，使魏帝下诏迁司马懿为太傅，独揽尚书台大权。但曹爽既无军事才能也无政治才能，根本不是司马懿的对手。正始八年（公元247年），曹爽用何晏、邓飏、丁谧之谋，迁魏太后于永宁宫，直接把魏帝控制在手中。司马懿故伎重施，称病不出，暗地里伺机消灭曹爽集团。
