晋文公回到晋国，刚刚休整了半个月，宋国大司马公孙固便来向他求救了。
原来，宋襄公（公子燬）死了，他的儿子继位，就是宋成公。楚国借着这个机会，派大将成得臣带领郑、蔡、陈、许四个诸侯国进攻宋国。宋成公抵挡不住，便派大司马公孙固来晋国搬救兵。
晋文公召开朝议。将军先轸说：“楚蛮子只要有机会就欺负中原弱小诸侯。咱们应该反其道而行之，他们欺负谁，咱们就帮助谁。如此一来，中原诸侯都会渐渐的支持咱们。何愁霸业不成？”
晋文公问群臣：“你们说，这个仗该怎么打？”
狐偃说：“楚国打咱们的盟国，咱们就打他的盟国。”
晋文公问：“打谁呢？”
狐偃说：“当年咱们流浪的时候，卫、曹两国对咱们这伙人很不客气。咱们的信条是有怨必报。如今曹、卫两国都归附了楚国，我觉得就打他们。只要我们打卫、曹，楚国一定会去救援，那么宋国之围自然能解。”
晋文公想起当年在卫、曹两国受的窝囊气，便答应了公孙固的请求。他一面叫公孙固先回宋国，一面发布领命，叫晋国的将军们秣马厉兵，准备出征。
赵衰出班奏道：“臣有一条建议。按周朝的规矩，大国可以设立三军，中等之国可设两军，小国只设一军。晋国在武公时候，设了一个军。到献公时，扩充为两个军。后来，献公吞并了虞国和虢国等十多个小诸侯国，土地面积扩大了一千多里地，到如今，已是大国。既然是大国，就应该设三军。臣建议把全国的军队整编成上、中、下三军。这样一来，归属有序，便于调动”
晋文公笑道：“你的提议正和我意。照准。先整编军队，然后出征。”
经过一次大规模的整军后，晋文公任命狐毛为上军大将，狐偃为上军副将；郤縠为中军大将，郤溱为中军副将；栾枝为下军大将，先轸为下军副将。赵衰、旬林父、魏犨等皆在军队任职。
整编完成，晋文公便带领三军浩浩荡荡的出征了。
半道上，狐偃献策说：“咱们应该把口号改一下，不要说去打曹、卫，只说去打曹国。免得他们联合起来。”
晋文公说：“你想得很周到。是应该改一改。不过，咱们又以什么理由打卫国呢？”
狐偃说：“打曹国要先经过卫国。咱们可以去向卫国借道。我料定卫国不同意。咱们刚好有借口打他们。”
晋文公笑道：“你的主意够损，不过，是个好主意。”
晋军到达卫国边境的时候，晋文公派使臣先行去了卫国，向卫成公提出了借道的请求。卫成公犯了难，想拒绝。
卫国大夫元晅说：“当年重耳逃难到卫国，先君（卫文公燬）不让他进城，这个事情跟他结了仇。如今他来借道，摆明了是为难咱们。若是不答应，他必然要新账旧账一起算。臣以为，还是借个道，让他们过去算了。”
卫成公说：“咱们和曹国一起归附了楚国。要是借了道，莫说对不起曹国，自己也很危险。还有楚国，他们会怎么看？一旦背弃了楚国，将来咱们靠谁？”
正如狐偃所料，卫成公不肯借道。晋国军队以此为借口，向卫国发动了进攻。晋文公亲率郤縠的中军渡过黄河，向卫国挺进。
他们的进军路线正好是当年重耳等人逃难时进入卫国的路线，不出两日，大军到了五鹿。
晋文公又来到了当年他们休息的那颗大树底下。他停下车，望着树冠，心中想起了介子推。沉默片刻，禁不住悲凉，感叹说：“就在这颗树下，介子推割了腿上的肉给我做了一碗汤。”说完，鼻子一酸流下了眼泪。
将士们一片沉默。
魏犨怒气冲冲的说：“何必在这儿悲叹。大丈夫，有仇报仇，有怨抱怨。前面就是五鹿城，咱们打进城去，什么怨气都出了。”
先轸也鼓噪说：“魏将军说对，当年咱们没进五鹿城，那是因为没那个能力。今日大兵压境，再进不去就没道理了。赶紧动手吧。”
魏犨、先轸都是当年跟随晋文公重耳流浪过的，他们对于当年饿着肚子横七竖八的躺在树下休息的情景记忆犹新。晋文公很理解他们的感受。他当即下令：围攻五鹿。
先轸和魏犨率先带兵扑向了五鹿城。晋国大军随之而动。一时间杀声阵阵，士兵们抬着云梯像蚂蚁一样爬上了城墙。五鹿城小兵少，哪里经得住晋国大军的围攻？不到两个时辰，晋军便破城而入。
晋文公坐在战车上前呼后拥的进了城。他得意洋洋的对走在身边的狐偃说：“还记得当年那个庄稼人吗？他送了一块土疙瘩给我们吃。你说那是得到土地的先兆。你的话今天应验了。”
狐偃哈哈大笑。他暗想，当年若不是担心你们闹事，我才不会胡诌一番呢。
晋军休整一日后，晋文公叫老将郤步扬镇守五鹿，然后带领大军继续向卫国纵深挺进。
又过一日，他们到了卫国的敛盂（河北濮阳县）。敛盂也是一个小城，规模和五鹿差不多，不过却比五鹿稍微富庶些。晋文公打下敛盂城后，屯兵于此，暂时休整。
这时候，齐国使臣赶到了晋军大营。他向晋文公报告说，齐国的国君齐