公元344年，秋天，祖济府衙。
祖济刚从前线回来，杜云天和小丁就过来找他。他们祭拜了一下祖逖，他和父亲一样，是五行堂主。
这次密诏提到北伐中原的策略，北伐中原一直是东晋五行帮的夙愿。从密诏看出来，那时候，皇帝知道西晋不长久。杜云天说到。
我们国师（术士戴洋）说，我今年有灾难。祖济说到。
祖逖去世前，豫州分野有妖星出现。此前术士戴洋曾预测道：“祖豫州九月当死。”妖星出现后，陈训道：“今年西北大将当死。”祖逖也叹道：“妖星应在我身。本想进军平定河北，而天欲杀我，这是对国家不利的征兆啊。”不久祖逖便去世了。
祖逖与刘琨一同担任司州主簿时，感情深厚，常常同床而卧，同被而眠。一次，祖逖半夜听到鸡叫，认为这是上天在激励他上进，便叫醒刘琨道：“此非恶声也。”然后与刘琨到屋外舞剑练武。你父亲有志报国的人，他即时奋起。你应该继承遗志。杜云天说到。
祖逖出身于范阳祖氏，曾任司州主簿、大司马掾、骠骑祭酒、太子中舍人等职，后率亲党避乱于江淮，被授为奋威将军、豫州刺史。他在317年率部北伐，得到各地人民的响应，数年间收复黄河以南大片领土，使得石勒不敢南侵，进封镇西将军。但因势力强盛，受到东晋朝廷的忌惮。
321年，朝廷命戴渊出镇合肥，以牵制祖逖。祖逖目睹朝内明争暗斗，国事日非，忧愤而死，追赠车骑将军，部众被弟弟祖约接掌。北伐大业也因此而功败垂成。
289年，侨居阳平郡的祖逖被郡府举为孝廉，又被司隶举为秀才，但都没有应命。后来，祖逖与刘琨一同出任司州主簿。两人的关系十分融洽，常纵论世事，有时夜深还不能入睡，拥被起坐，相互勉励道：“如果天下大乱，豪杰并起，你我二人应在中原干出一番事业！”
291年，八王之乱爆发。祖逖得到诸王的重视，先后效力于齐王司马冏、长沙王司马乂、豫章王司马炽，历任大司马府掾属、骠骑将军府祭酒、主簿、太子中舍人、豫章王府从事中郎。
304年，东海王司马越拥晋惠帝讨伐成都王司马颖。祖逖也随军出征，不料在荡阴战败，逃回洛阳。惠帝被挟持到长安后，范阳王司马虓、高密王司马略、平昌公司马模竞相征召祖逖，但他都不肯应命。后来，司马越任命祖逖为典兵参军、济阴太守。但祖逖适遇母丧，遂守孝不出。
311年，洛阳陷落，祖逖率亲族乡党数百家南下，避乱于淮泗。他躬自步行，把车马让给老弱病人，又把粮食、衣物和药品分给别人。逃亡途中多遇盗贼险阻，祖逖应付自如，被同行诸人推为“行主”。到达泗口（治今江苏徐州）后，祖逖被琅琊王司马睿任命为徐州刺史，不久又被征为军谘祭酒，率部屯驻京口（治今江苏镇江）。
313年，晋愍帝即位，以司马睿为侍中、左丞相、大都督陕东诸军事，命其率兵赴洛阳勤王。当时，司马睿正开拓江南，根本无意北伐。祖逖进言道：“晋室之乱，并不是皇帝无道，百姓造反，而是藩王争权，自相残杀，给了夷狄可乘之机。如今北地百姓备受蹂躏，都有奋起反击之志。大王如能命将出师，让祖逖等人为统领，江北豪杰必定会望风响应，沦亡人士也会欢欣鼓舞。如此，也许可以申雪国耻。”司马睿虽不愿北伐，却也不便公开反对，于是任命祖逖为奋威将军、豫州刺史，但却只拨予千人粮饷、三千匹布帛，让他自募战士，自造兵器。
司马睿的消极态度，并未动摇祖逖的北伐决心。祖逖率领跟随自己南下的宗族部曲百余家，毅然从京口渡江北上，并在大江之中，用力拍击船楫，立誓要扫清中原。他在渡江后，暂驻淮阴，起炉冶铁，铸造兵器，又招募到士兵二千多人。当时，兖豫一带有豪强张平、樊雅，占据谯城，聚坞自保，有兵数千人，只是在名义上臣服于司马睿，接受其授予的官职。张平部下还有董瞻、于武、谢浮等十多支小部队，各有数百人。
祖逖攻占谯城后，终于在豫州站住脚跟，打通了北伐的通道。桓宣则率部返回。不久，石虎围困谯城，王含又遣桓宣来救。石虎闻听桓宣前来，撤军而退。桓宣于是留在谯城，协助祖逖征讨不肯归附的坞堡武装。
319年，祖逖出兵征讨陈川。石虎则率五万大军救援，结果被祖逖击败。他洗劫豫州，带着陈川回师襄国，并留部将桃豹戍守蓬陂坞。
320年，祖逖派韩潜镇守蓬陂坞东台，桃豹退据西台。两军对峙四十余日后，祖逖设计令赵军以为晋军兵粮充足，挫其士气。他又在汴水设伏，尽夺石勒运给桃豹的军粮，逼得桃豹退守东燕城。祖逖命韩潜进占封丘，压逼桃豹，自己则进屯雍丘（治今河南杞县）。
击退桃豹后，祖逖又多次出兵邀截赵军，使石勒在河南的力量迅速萎缩。河南境内有赵固、上官巳、李矩、郭默等割据集团，各据一方，经常兵戎相见。祖逖遣使调和，示以祸福，晓以大义，使赵固等人都服从自己的统一指挥，成功收复黄河以南中原地区的大部分土地。
当时黄河沿岸还有一些坞堡主，迫于后赵兵势，不得不臣服于石勒，送子弟