隋军随即轻松攻下了他们所占据的汝南县城，他们的头领受领大赦诏向隋军投降。杨广将这支降军调往大别，桐柏两大山脉间的义阳关驻守，提防萧铣的北侵。
杨广在汝南稍做停留，留下上千骁果军等待降军与后续隋军换防后，数百只维京战船就驶入了汝水。船队中的那些蜈蚣战舰不适合在汝水中航行，就掉头东返。它们未来的任务就是依托淮河两岸的隋军据点，在淮河水道中来回巡逻游弋。
此时已是四月初，东南风正盛。维京船鼓足了风帆，水手们奋力划桨。浩浩荡荡的船队，仅一日一夜时间，就驶入春雨绵绵的汝水河谷。层层叠叠的桅帆向北移动。两岸林地丘陵之中不时冒出乡人山民向河中窥探，他们看到如此景象，莫不称奇。
夹在伏牛山与箕山之间的汝水河谷在这天下大乱之时，也出了不少盗匪，在山间结营扎寨，不过规模都很小。郡县城池基本上都还掌握在朝廷手中。
不过此时，却有一只庞大的军队沿着箕山北麓山脚进入了嵩阳境内。这支军队看衣着显然不是隋军。他们正是瓦岗大将王伯当所率领的两万精兵。
沿途郡县的隋军守军莫不能挡，有的县长直接投降对方，更多的是弃城而逃，急奔向东都向洛阳留守王世充报信。当然也有不少顽强抵抗县城，王伯当急于赶到汝州，除非这些城池的战略位置非常重要，直接威胁到自己后勤补给和归路，王伯当也并不去理会。
王伯当的大军昼夜疾行，两日便赶到汝水河谷北端的汝州境内，一举攻下并无多少隋军防守的汝阳县城，以此作为为前方防线提供粮草的粮草囤积转运之所。同时征集大量民夫，在汝水河谷中构筑了一道长达十里的防线，将汝水河谷截断，并在汝河东西两岸各构筑一个大营。
工地上，王伯当正在探查构筑的汝水防线的进度，远远的有两骑飞驰而来，他们是王伯当前昨日派出的探马。这二人在王伯当面前勒住马缰，跳下马来急急叩拜说：“禀告将军，隋军前锋离此不到五十里路程。”
王伯当有点意外的说：“怎么会这么快，这汝水两岸地势虽然平坦，但并无现成道路，按估算他们最早也是三天后才能到达。”
另一探马说了句让王伯当更为意外的话：“启禀将军，这隋军并没有走陆路，而是乘舟踏水而来。”
王伯当以为自己听错或理解错了，断喝一声：“什么？你把话说清楚，再说一遍！”
“启禀将军，隋军并不是在陆路上行军，他们是乘坐大批船只而来，陆地上只有少量警戒的部队随船队而行。这些船只造型奇特，船只颇大，可载数十人，却能在很浅的水域上航行。”这一次那探马将话讲得仔细，让王伯当明明白白。
王伯当眉头拧在一起，稍稍思索片刻就下令道：“快，那个防线不要修了，来不及也没用了，命令所有兵卒和民夫加强营垒的工事。另外在河中堆砌障碍物和设置拦河铁索！“
事实上，隋军来的比王伯当想象的还有快，仅仅三个时辰后，隋军的前出斥候侦骑的身影就出现在王伯当的视线中。王伯当思索该如何布防时。隋军的前军已经到了。
王伯当最终选择在汝水拦河铁索的两边摆开阵形拦截隋军，并在两岸设立大量弓弩手，准备在击破隋军岸上之军后，再攢射河中的隋军船只。他已从探马口中得知，隋军的这些船只并没有甲板，也没有船棚。船上兵士都是暴露在露天之中，所以用箭矢就应该能轻易破之。