李渊建唐后，刘武周还经常借助突厥的力量威胁太原。当初李渊进攻霍邑时，听到刘武周与突厥入寇太原的传言，差点回兵，铸成大错。足见刘武周对太原的威胁，非同小可。

武德二年（619）四月，刘武周联合突厥，进驻黄蛇岭（今山西榆次北）。留守太原的李元吉派张达成驱逐刘武周，结果全军覆没。刘武周攻陷榆次，围困并州（治晋阳）诸县。其时，易州（治所在今河北易县）的宋金刚被窦建德打败，投奔刘武周。六月，刘武周命宋金刚率兵三万进攻太原，在河东抗敌的裴寂节节败退，留镇太原的李元吉弃城逃回长安。晋州（治所在今山西临汾）以北城镇，除浩州（今山西汾阳）以外，全入刘武周手中。刘武周对太原形成了战略上的包围形势。

十月，宋金刚打下浍州（今山西翼城）。夏县人吕崇茂杀县令以应刘武周。据守蒲坂（今山西永济北）的王行本也响应刘武周。唐在黄河东岸只剩下晋西南一隅之地。山西可是唐朝的龙兴之地，也是关中的屏障啊。

关中震惊，风雨如晦！

高祖眉头深锁，下敕道：“贼势如此，难与争锋，宜弃大河以东，谨守关西而已。” 放弃黄河以东？如何了得！秦王世民随即上表，请缨出战：“太原，王业所基，国之根本；河东殷实，京邑所资。若举而弃之，臣窃愤恨。希望能给儿臣精兵三万，必平定刘武周，克复汾、晋。”

高祖得表，心里少不得一番折腾。其实，他又何尝忍心放弃河东？事已至此，纵然不乐观，也宁愿相信这个已数经战阵的年少爱子，能够遏制刘武周的攻势。

于是，高祖下令：关中兵全归秦王统领，进击刘武周。

择日启程，高祖亲自到华阴的长春宫相送。天高野旷，北风呼啸。挥手告别的那一刻，高祖的心里有多少担忧多少期望？

十一月，秦王率军到龙门关。冰面正坚，令军队从冰上过河，进屯柏壁（今山西新绛西南），与屯驻浍州的宋金刚相持。

驻屯柏壁后，秦王分出部分兵力在汾、隰一带活动，以牵制敌军进攻唐朝在山西最后的根据地浩州的力量，使浩州守军能够坚持下去。浩州是晋阳到晋西南运输线中的战略要地。当时从晋阳到晋西南大致有两条交通线，其一是从晋阳（今太原）沿汾水西侧经清源（今山西清徐）、浩州渡汾水达灵石（今山西灵石），即是李渊从晋阳南下时所走之路线。另一条是从太原沿汾水东侧经榆次、平遥、介休以达灵石，即是刘武周南下时所采用的路线。浩州正当西线要冲，对东线运输的安全与否也至关重要，因此成为双方争夺的战略要地。

至于主力部队，秦王决定：坚守待命。

诚所谓“知己知彼，百战不殆”，秦王很清楚双方形势、战争时机。他分析道：“宋金刚悬军深入，精兵猛将，全都聚集在这里。刘武周据太原，专倚宋金刚为依靠。而宋金刚虽士卒众多，但军中素无蓄积，单靠虏掠，不是长久之计，一心想要速战速决。我们现在出战，岂不正合他意？所以恰恰要闭营养锐，等他们士气懈怠，分兵汾、隰，才好直冲其心腹。那时候对方粮尽计穷，自然只能仓皇逃奔。所以不速战者，正是要等待时机。”

冬去春来，天气渐渐转暖。宋金刚的日子却一日更比一日难过。

武德三年（620）四月，一天，探子报：“宋金刚撤营北退。”

等的就是这一天！秦王大喜道：“宋贼粮草已尽。”下令军中：“所有精锐骑兵，随我追击！”

秦王旗帜飘扬，马队奔跑如飞。转眼间追至吕州（今山西霍县），与宋金刚部将寻相交战，寻相大败，奔亡。

秦王挥旗：“继续追击！”乘胜北进。一昼夜且追且战，行军二百余里，与宋金刚交战数十回合。

当追到高壁岭（今山西灵石南）时，军队难免已经疲惫，秦王却仍然精力十足。总管刘弘基只得拦住秦王的马缰绳，谏道：“秦王破贼，一路追到这里，战绩也差不多了。还要一直追赶下去，难道就不想想自己的身体吗？即使不顾自己，也要照顾一下士兵们，大家都又累又饿，疲惫不堪了啊！请秦王驻军于此地，等军粮跟上来，再继续追击，也不晚啊。”