惠公回国以后，诛杀了庆郑，重修政教，并且与大臣们谋划说：“公子重耳流亡在外，诸侯大多想要护送他回国继位，以从中得利，因此我们应该除掉他。”惠公派刺客到翟国去刺杀重耳。重耳得到消息后，迅速逃到了齐国。
短命怀公
当晋惠公还是公子在梁国流亡的时候，梁国国君就把自己的女儿嫁给了他。这个女子为公子夷吾生下了一男一女两个孩子。有一次，梁国国君命人占卜这两个孩子的前途，结果是男孩将做人家的臣仆，女孩将做人家的妾，梁国国君知道后非常失望，为了避免这样的晦气，他就给男孩取名叫圉，女孩起名叫妾。后来夷吾回国继位，圉便被立为了太子。
韩原战败以后，晋惠公为了稳定与秦国的关系，派太子圉到秦国做人质。秦穆公对此很高兴，将一名秦国女子嫁给圉为妻子。几年以后，晋惠公得了重病，随时都有可能会死去，而晋国国内还有好几名公子，都在虎视眈眈地注视着王位。太子圉得到这个消息后，忧虑地说：“我母亲家在梁国，如今梁国被秦国灭掉了，我失去了母家人的援助。在外我被秦国轻视；在内晋国人一大多不支持我。国君如果病逝，我担心晋国的大臣们会轻视我，改立其他的公子为国君，我该怎么办呢？”于是太子圉便谋划和他的妻子一同逃回晋国，而他的妻子则说：“您是一国的太子，如今却困辱在这里，秦国让我这个婢女来侍奉您，是要稳定住你的心。您要是逃亡，我是不便跟您一起前去，但是身为妻子，我绝对不会将此事泄露出去。”所以太子圉只好和他的几名亲信逃回了晋国。不久，晋惠公去世，太子圉继承了王位，这就是晋怀公。
由于太子圉本来是在秦国的人质，所以对于他的逃离，秦国十分怨恨。于是秦穆公派人联络同样流亡在外的晋国公子重耳，想要护送他回国继位。晋怀公打听到秦国的动静，心里非常害怕，就命令所有跟随重耳流亡的晋国人在规定期限内回国，到期不归的人，便诛杀他的全家。大臣狐突的儿子狐一毛一与狐偃此时跟随重耳到了秦国，狐突非常敬重公子重耳，所以不肯召他们回国。怀公听说以后十分生气，便囚禁了狐突。他派人责问狐突为什么要这样做。狐突回答说：“臣的儿子侍奉公子重耳已经有好多年了，如今假如我召唤他们回国，那等于是叫他们背叛君主啊！我用什么道理来说服他们呢？”怀公见狐突不肯就范，就把他杀死了。因为类似情况被杀的人不在少数，所以怀公更加失去了民心。不久，秦穆公发兵护送重耳回国，而晋国的大臣栾枝、郤榖率领他们的一党一徒为内应，向晋怀公发动攻击，结果晋怀公被杀死在高梁。重耳继承了王位，这就是晋文公。
大难不死
重耳即位以后，虽然得到了大多数人的拥护，但是反对派的力量依然十分强大。晋惠公时期的大臣吕省、郤芮原本就不亲附重耳，而且等到他即位以后，这些人的利益受到了很大的损害，于是他们就密谋焚烧国君的宫殿，试图烧死文公。对于即将发生的一切，重耳和他的亲信们毫不知情。
献公在位时曾经奉命刺杀重耳的宦官寺人披知道了吕省等人的一陰一谋，就想把这件事告诉文公，以解脱自己当初的罪过。他前来求见文公，重耳对以前的事情依然耿耿于怀，就拒绝见他，并派人责备他说：“在蒲邑的时候，你追杀我，砍断了我的衣袖。后来我跟随翟国国君打猎，你又奉惠公之命来刺杀我。惠公限你三天之内到达，而你仅用一天便赶到了，为何如此的快呢？你还是好好想想过去吧。”寺人披托人转告重耳说：“我是个受了刑的人，不敢用二心来侍候君主、背叛主上，所以才得罪了您。如今您即位为君，难道以后就没有像当初在蒲邑、翟国发生的那样的事情了吗？况且，当初管仲射中了齐桓公的衣带钩，但桓公并没有怀恨在心，而是重用管仲，并最终靠他的辅佐称霸天下。如今我有要事相告，您却闭门不见，不知道灾祸将要临头了。”晋文公听了他的话之后感到很惭愧，便接见了寺人披，寺人披便将吕省等人的一陰一谋告诉给了文公，文公对此非常感激，决定捐弃前嫌。