杨坚却一点也不慌张，他挟幼帝以号令中外，一边结好并州李穆，送千金公主与突厥和亲，解除掉北方的隐患；一边加强洛阳守御，作为进讨尉迟迥的战略基地；同时命令计部中大夫杨尚希先，发精兵三千人镇守潼关，防止偷袭。
后顾之忧统统消除后，七月末，韦孝宽率大军自洛阳进驻河阳，趁尉迟迥围攻怀州之机，将其击溃，挥师东进，来到武陟。尉迟迥就在对岸，韦孝宽因河受阻，一时难以前进。
两军隔水对峙，直到八月十七日，韦孝宽下令进攻，尉迟迥则挥军稍退，是想待韦孝宽军半渡而击之，谁知韦孝宽亲自擂鼓，激励将士猛进，待全军过河，又下令焚桥，绝了士卒败退之心。如此一来，韦孝宽手下个个以死相拼，尉迟迥的军队抵挡不住，大败而逃。
尉迟迥单骑逃往邺城，韦孝宽率大军乘胜追击，迅速迫近相州，先后击溃尉迟迥埋伏在相州南之野马岗的三千精兵、五百骑兵，进抵相州近郊。
