就在杨谅下令全线防守的同时，杨素率领的五千轻骑兵已经挺进到了黄河岸边。当夜，杨素征集当地几百条商船，全军化整为零，事先在船上铺上稻草，人马踩在上面一点噪音也没有。借着夜色的掩护，靠着稻草这个天然消音器，五千轻骑兵连夜渡河登陆成功。拂晓时分，当蒲州城的守军还没起床的时候，杨素的集结号已经吹响了。慌乱之下，杨谅的守军跑的跑，降的降，蒲州城在杨谅手里还没有焐热，就又回到了杨广的怀抱。
小胜并不足以麻痹杨素，杨素的目标是杨谅的大本营并州。经过各路援军增援之后，杨素的部队已经有了几万人的规模，兵多了，将广了，可是怎么灵活运用这几万人呢？杨素对着地图指点了几下，作出了部署，在沿途仍效忠杨谅的晋州、绛州、吕州，各留下两千人做象征性包围，剩下的人全速挺进，目标——并州。
然而，杨素又遇到了新问题，无路可走。杨谅的部队已经切断了并州周围所有的交通线，据守在山西高壁，连营五十里，阵势浩大。没有路怎么办，难道杨素能插翅飞过去不成？是的，他还真能飞过去，不过不是靠他的翅膀，而是靠他的双脚。
杨素命令手下将领继续向前挺进，牵制杨谅的主力，而他自己则带领一支奇袭部队，从霍山山谷的悬崖峭壁绕到杨谅大营的背后，这一招与三国时期邓艾越过悬崖峭壁奇袭成都有一拼，看来杨素也知道不少三国故事，同时知道那句名言，“世上本没有路，走的人多了也就成了路”。
绕到敌人背后的杨素立即扎营，转身命令自己的参谋长进大营挑选三百人留营守护，剩下人马全体集合，向杨谅大营冲锋。
留营，冲锋，哪个安全系数高呢？傻子都知道。结果大营中谁都想争取那三百个留守名额，争取成功的庆幸祖上积德，没成功的都哭丧着脸痛恨祖坟没冒青烟。就这样，三百个留守的名额终于分配完了，然而选拔的时间太长，全军竟然错过了原定的出发时间！
杨素愤怒了，为国平叛拖拖拉拉像什么样子，靠这些人怎么能打仗，不刺激一下怎么行。杨素冲军令官一招手：“刚才那三百个争取留下看营的，全部斩首！”
三百人一会儿就砍完了，杨素再发问：“还有谁愿意留下？请举手！”
一个没有，出发！
刚才还贪生怕死的士兵转眼间变成了贪死怕生，反正是个死，那就死得轰轰烈烈吧。以这么一群死不怕的人冲击还在打着小算盘的叛军大营，士气已是天壤之别。这一仗下来，杨谅的叛军死伤几万人，元气已经大伤，胜负的筹码已经掌握在杨素的手中。
听到前线崩溃的消息，杨谅准备硬挺一把，带领十万大军列阵，准备迎战杨素，不想秋天里的一场雨坏了杨谅的好事。本来杨素的人马是孤军深入，已经人困马乏，看着杨谅的十万大军也是倒吸凉气。不料一场秋雨从天而降，浇得杨谅睁不开眼，从小到大他就没受过这个罪，怎么造个反这么难呢？
雨一直下，没有停的意思，两军在僵持着，但都不肯先进攻，连眼都睁不开，还打什么仗呢？现在比的不是别的，就是双方的挨浇能力，谁先扛不住先移营，谁就输了。事实证明，娇生惯养的就是比不过久经沙场的，杨素被雨越浇越精神，杨谅却越来越蔫，雨越下越大，杨谅越来越冷，算了，撤退吧，反不造了，也不能遭这罪。旁边的大将一个劲提醒：“大王，千万不能回军，一回军什么都完了！”
杨谅确实不是造反的材料，他没有听从大将的劝阻，毅然决然拨马而去，在他拨马离去的一瞬间，杨素笑了。
命运就在自己的手中，有的时候只需要再坚持一会儿，再坚持一会儿。