正在两军僵持之时，突然有一天，薛仁杲军中有一名叫梁胡郎的将官，带着数百骑向李世民投降。原来是薛仁杲军中粮食用尽，加之他对待下属刻薄严厉，军中已是人心浮动。
李世民见薛仁杲的将士有了反叛之意，感觉时机已到，就命令行军总管梁实在浅水原扎营，诱敌出击。薛将宗罗?见到唐军不再当缩头乌龟，终于有仗可打了，赶紧派出精兵攻打梁实，薛军攻势很猛，但梁实一直坚守不出，眼见营中无水，人、马好几天都没有水喝。
李世民见薛军已是疲惫不堪，对部下说道，“是时候了！”唐军庞玉在浅水原布阵，宗罗?又率兵来攻，庞玉死死顶住宗罗?的攻击，未后退半步。这时李世民带着大军从北面掩杀过来，并亲率精锐骑兵数十名攻入敌阵。唐军见老大带头奋不顾身的冲锋陷阵，更是个个英勇向前，一时间，战场上喊杀声震天动地。
宗罗?被前后夹击，颇感意外，他没有料到之前还不堪一击，败在薛军手下的这些人，今天的战斗力却强悍到爆表，个个如狼似虎，敢本不可阻拦。薛军在唐军的猛攻之下，很快溃败，数千人被斩首，其余的士兵四下奔逃。
李世民带着二千多名骑兵开始追杀薛军，薛仁杲手下又有很多将领投降了唐军。到了晚上，唐军陆续到达了高墌城，开始围城。半夜，城中的守军开始争先恐后的在城下投降，很怕晚了没有名额。
孤家寡人的薛仁杲无奈之下，只能举城降唐。这一战李世民获得精兵一万多人，这些精兵，李世民都派给了薛举的降将，由他们带领，没有任何的猜疑。这是李世民在李渊身上学得的长处之一。
李世民只所以敢于放手让降将带降兵，主要还是源于对自已军事才能的高度自信。即使有一天这些降兵降将胆敢造反叛唐，他也是有能力收拾这些人的。李世民正是用这种恩威并施的做法，才让许多对手迅速聚拢在自已的周围，死心塌地的为他所用。
薛仁杲后来被押回长安，斩首示众。自薛举起事，到薛仁杲被杀，父子二人占据甘肃，五年而亡。
薛仁杲被杀之后，甘肃地区又出了一个小小的插曲，可谓极其搞笑，在这里写出来，权当搏众位看官一乐。
薛仁杲死后，他有一个部将叫旁仚地，跟着薛仁杲投降唐军后，大概是觉得没什么前途，复又反叛，带着数千人干起打家劫舍的勾当。有一天旁仚地带人到始州，抢得一个王氏美女，这个旁仚地是个粗人，就要强迫王氏。却不想这个王氏也不是软弱之人，用了点媚术勾住了小旁，小旁屏退了护卫，开始与王氏饮酒作乐，可能是太过兴奋，连喝十几杯，醉倒在地了。王氏见他已不醒人事，拔出他的刀，一刀结果了他的小命，然后把他的人头偷偷地送给了唐军。可笑一个枭雄，居然死在了手无缚鸡之力的妇人之手，可见色字头上一把刀，这话是不假的。
就这样，李唐王朝平定了陇西的叛乱，恢复了唐朝对西北地区的控制。
干掉了薛举，李渊已占有陕西、甘肃、山西的大部分地区。他的目光转向了东北方向——河南河北。那里，决定了李唐王朝最终会成为一个大一统的帝国，还是偏隅一方的地方政权。
关中陇西等地虽然在战略上很重要，但其人口还不足隋朝的四分之一。而河北河南等大平原地区，却是中国最富庶的地方，这里的粮食产量，足够养活全国人口的半数以上。与此同时，隋朝大运河的开通，把淮河流域、长江流域和京师连接起来。而淮河、长江流域也变成了越来越重要的粮食主产区，这里的粮食可以通过运河源源不断的输往京师。
隋炀帝沿着运河航线，在河南河北的南部建造了几个大粮仓，以贮存粮食，这些粮仓成为各路叛军主要争夺的地方。对于一个想要重新统一全国的王朝来说，牢牢地控制富庶的河南河北等地，是当前的最重要的战略需要。
但在东部平原上，却盘踞着阻碍李渊统一中国最难对付的四位大哥——李密、窦建德、王世充和宇文化及。这四个人每人都是手握重兵，久经战场，雄据一方的霸主，每一个都不是省油的灯。
王世充和宇文化及分别立了隋炀帝的后代杨侗、杨浩为帝，然后又废掉，各自称帝。这二人的军队都是由隋帝国的残余力量转化而来。