曹丕的南征没有取得对孙吴的实质性战果，但是对青、徐二州的割据势力，曹丕借南征之机采取措施彻底解决了二州的隐患。
曹操在平定吕布势力后，青、徐二州一直存在着臧霸、孙观等割据势力。他们名义上归附曹操，实际上有着独立的地区、兵力，曹操威望很大，这些割据势力也听从号令，曹操一直对其采取安抚的策略。曹操去世不久，除了不安分的青州兵外，臧霸的军队中也有人不听号令，认为天下要乱，出现了鸣鼓擅自离去的情况。
面对此情况，曹丕为了稳定形势采取了招抚策略，暂时控制住局面，在三路伐吴的时候，将臧霸纳入曹休指挥，借机夺取其兵权，青徐割据的首脑人物被架空。在后来从广陵发兵征吴的过程中，出现了利城郡郡兵兵变的事情，利城郡是从东海郡分出，治所在山东临沭东南。郡兵蔡方起事，以唐咨为首攻杀太守徐质，曹丕立即调遣屯骑校尉任福、步兵校尉段昭、青州刺史共同讨伐将其平定，唐咨后来逃到海上投降了孙吴。
南征归来的曹丕身体状况急转直下，刚回到洛阳不久，曹丕必须立刻考虑后事了。曹丕的儿子不多，一方面古代医学不发达，另一方面曹丕身体就不好，可能有糖尿病及其他遗传疾病，很多儿子早夭，比曹丕去世得都早。曹丕思来想去决定让曹叡继承帝位。曹叡，字元仲，生母是被曹丕宠爱多年，后来被赐死的甄夫人。曹叡长得相貌俊美，小的时候就很聪慧，博闻强识，据说有过目不忘的本领。曹操对这样的大孙子十分喜爱，经常让曹叡伴随左右，朝会宴席时，曹操经常让曹叡与近臣们并列，曹叡喜欢涉猎多种知识，尤其是法律方面。
曹丕成为魏王后，曹叡被封为武德侯，当时就以侍中郑称担任曹叡师傅，郑称被曹丕称为“笃学大儒”，可见曹叡还是相当受曹丕重视的。221年，曹叡被封为齐公，同时期被封公的并非只有曹叡，很快生母甄夫人与曹丕矛盾激化，甄夫人被赐死，曹叡因母亲获罪被降为平原侯。
在刚开始的时候，曹丕认为甄夫人被自己赐死，曹叡又被降了爵位心中一定不满，因此有了立徐姬所生儿子曹礼为嗣的想法，但并没有决定，所以久久没有立太子。面对这种如履薄冰的局面，曹叡更加小心谨慎起来，往来侯府的人只选择品行正直的人，难能可贵的是曹叡和这些人互相扶持，相互勉励，处理所有事务小心谨慎，以此避免受到责罚。当时有分量的人物中，有一位一直与曹叡关系亲密。曹丕多次向这位旁敲侧击询问关于曹叡的情况，这个人非常谨慎的维护说平原侯明理而有德行，闭口不言其他。
这位人物是卫臻，字公振，当年跟随曹操追击董卓，与徐荣部奋力战死的卫兹之子。卫兹战死后，曹操每次进入陈留郡都会派人到卫兹墓前祭扫。作为卫兹的儿子，卫臻很受曹操重用，夏侯惇为陈留太守时，举荐卫臻担任计吏，在举行宴请时带着自己的夫人出席。当时可没有男女平等，卫臻认为这么做是末世才有的败俗之举，不合礼节，夏侯惇非常生气，当即把卫臻抓了起来，但毕竟死去的老爹面子太大，没过多久，卫臻所说确实符合当时人的认知，所以没过多久就把卫臻放了。卫臻的父亲曾经拒绝三公辟用，面对刚刚到陈留的曹操，卫兹就说：“平定天下的，一定是这个人。”后来又跟随曹操战死沙场，这份忠诚和敬仰，曹操当然无比感动，以后一定会加倍报答。
后来卫臻做了汉朝的黄门侍郎，不久东郡的朱越谋反，朱越供认的参与人员中就有卫臻。曹操看到了参与人员名单中有卫臻，当即下令说：“我和你父亲共同举事，对你格外提拔重用。在刚开始听到朱越的供词，我就丝毫不相信，等收到荀令君的书信，那上面把你的忠诚写得就更明白了。”很快，曹操就上表让卫臻留下担任参丞相军事，追念卫兹的功勋，赐卫臻为关内侯，不久转任户曹掾。
在曹操身边多年的卫臻与曹丕关系也不错，曹丕继任魏王后就让卫臻担任散骑常侍，称帝后封为亭侯。曹魏刚代汉不久，大家都在称颂大魏的功德，不少人开始贬损汉朝，卫臻很了解禅让的意义，人家都把江山让出来了，还一顿贬损不太好，于是站出来称赞汉朝的美德。曹丕几次见到卫臻都说：“天下的珍宝，应该和山阳公共同享用。”
卫臻可不是对汉献帝忠心耿耿，曾经曹丕在受禅仪式上，时任相国华歆、尚书令陈群脸上也显示出不愉快的神色。在东汉时的风气重视名节，如果谄媚新主不仅在舆论上受到指责，被士大夫们所不齿，新主也看不上这样的人。卫臻很快就被升为尚书，转侍中、吏部尚书。曹魏的官制是第一品：黄钺大将军、三公、诸国王公侯伯子男(爵)、丞相。 第二品：诸四征、四镇、车骑、骠骑将军，诸大将军。 第三品：侍中、散骑常侍、中常侍，尚书令、左右仆射、尚书，中书监、令，秘书监，诸征、镇、安、平将军，光禄大夫、九卿，司隶校尉、京兆、河南尹，太子保、傅，大长秋，太子詹事，中领军，诸县侯(爵)，龙骧将军、征虏将军、辅国将军。吏部尚书是当时尚书之首，可见卫臻是相当受曹丕重用的。
曹丕到广陵时，卫臻被任命为中领军，这个官职可是掌握御林军，非常有实权的，曹丕当然知道卫臻和曹叡关系密切，可见还是倾向立曹叡为后继者的。一来曹叡的母亲毕竟是正妻所生，名正言顺，合乎礼法；二来曹叡受曹操重视，满朝的元老也知道曹叡聪明机智，他继位以后还是容易掌握局面的；三来观察曹叡虽然被降为侯爵，但表现还是宠辱不惊，低调行事的。
曹丕决定要对自己的儿子好一些。