赵匡胤选中，任命他为河东行营前军副都部署，给他建功立业的机会，也是看中党进的勇武、直率，不会结党营私。
人算不如天算，此次出兵，让赵匡胤没有想到是，当曹彬、李继勋统率大军进入太行山后，在北方酷寒之季的山西，竟然天降大雨。
这是一场千年难遇的大雨，足足下了半个月，从二月二十八开始，大宋军队被大雨死死的挡在了潞州，整整停滞了半个月。
没有大辽撑腰，北汉军一路狂败。
三月十八日，李继勋在太原城下大败北汉军队。
二十一日，赵匡胤的主力大军来到太原城下。
◆击退杨无敌
刘继元继位后，任命侍卫都虞候的刘继业与冯进珂领兵镇守团栢谷，抵御宋军。
刘继业，本名杨继业，北汉第一勇将，人称“杨无敌”。并州太原人，后汉麟州刺史杨弘信之子。由于很能打，被北汉世祖刘崇赐名刘继业。
刘继业后来归顺大宋，改回原名杨继业。他就是杨家将里，七郎八虎的爹，八姐九妹的父亲，佘老太君的丈夫，赫赫有名的老令公杨继业。大宋朝的擎天博玉柱，架海紫金梁。不过此时，他还叫刘继业，是北汉最厉害的将。
赵匡胤亲征北汉，刘继业、冯进珂自知寡不敌众，撤回太原。刘继元震怒，褫夺二人兵权。
赵匡胤一到太原，就在城外布下四座大寨，党进的兵马驻扎在城东。
是夜，刘继业趁宋军尚未安营，率数百骑兵突袭东门大寨。党进仓促应战，率随从数人大败刘继业，一直追击到城边。
刘继业连滚带爬跳到护城河里，一阵狗刨，游到城墙根下，大喊救命。
守城的北汉将士，一看是自家的将军，赶紧从上面放下一个箩筐，把刘继业拉上城头。灰头土脸，一身落汤鸡的刘继业这才得以幸免被俘。
杨家将在大宋威名赫赫，声名远扬，这一次是老令公杨继业的军事生涯中是为数不多的败绩。
开宝二年（969）六月，刘继业随郭无为率兵突围，又一次坠马伤足，再次退回城中。
◆水淹太原
太原城防坚固，高垣厚垒，赵匡胤是清楚的。当年在清油观，救下京娘，送其回家，至今，仍历历在目。
断了大辽铁骑的增援，考虑到短时强攻不可取，赵匡胤决定打持久战，慢慢玩，他命人在汾河上架起一座新桥。
隔三差五组织士兵攻城，始终攻城不下。太原城四周护城河又宽又深，完全打消了赵匡胤通过挖地道进城的想法。
这天，巡逻的兵丁在护城河里捞到一只莲花灯，灯上有一行小字“水流无限”。赵匡胤不解其意。
曹彬道：“臣读诗豪刘梦得《竹枝词》，记得里面的四句：‘山桃红花满上头，蜀江春水拍山流。花红易衰似郎意，水流无限似侬愁’，陛下现在愁的是如何攻下太原城，似乎‘水流无限’可以解除我们的烦忧，莫非有人提醒我们用‘水攻’？”
赵匡胤一拍大腿，“水攻好啊！朕怎么就没想起来呢！”
开宝二年（969）三月，赵匡胤决定采用水攻，引汾河水淹灌太原城。
命人征发太原附近各县的几万名男丁集中在太原城下，筑起一圈长堤，将太原城围起来。大军后撤，在太原城四周建立营寨，太原城南是李继勋的军队；太原城西是赵赞的军队；太原城北是曹彬的军队；太原城东是党进的军队。一切准备完毕，赵匡胤命令大军掘开汾水、晋水，太原城四面慢慢被大水淹没，瞬间变成了水中的一个孤岛。
大水从城墙下的沟渠暗道和城门处，纷纷涌进城内。刘继元派人用石头砖瓦和泥土封堵各处河道涵沟，还有东西南北各处城门。城内到处是河水带来的漂浮物和死老鼠、牲畜，北汉军民纷纷叫苦不迭。
刘继元几次派人突围，均未能成功，他期待的契丹援军迟迟未到，郭无为劝其降宋，刘继元不肯。
四月，接到北汉求救消息的大辽，第一时间组建援汉军团。契丹兵分两路，一路走太原附近的石岭关，一路直扑大宋重镇定州。赵匡胤早已做好了准备，张开大网等着大辽援兵到来。
镇守石岭关的何继箔按照赵匡胤的部署，在山西阳曲设下伏兵，让开先头部队，击其中间。等着契丹骑兵过半，宋军伏兵四起，喊杀冲天，辽兵大乱，此役斩首契丹几千人，并生擒契丹将领武州刺史王彦符。
得到捷报，赵匡胤异常地高兴，他命人将几千个契丹人的头颅和铠甲依次高悬在太原城前。他想用血淋淋的事实，警告北汉刘继元，投降吧，别再做无谓的抵抗，你们指望的契丹援兵已经在半路上被我军截杀了。
看着这些血淋淋的人头，北汉君民一下子成了泄气的皮球，士气低落到了冰点。可是，刘继元还不想放弃，他想凭借太原城的坚固，做最后的死守。
四月十五日，赵匡胤亲临汾河边视察造船。
五月初七，契丹的第二支援军打定州经过，想由此西进，援救太原。镇守定州大将韩重赟守住关隘，契丹兵无法前进一步，被迫退走，韩重赟乘势追击，大败契丹，斩首三千多人，擒获其将领二十多人。捷报再次传来，宋兵士气大振。