杨玄感向洛阳进军时，攻打高句丽进入了关键期。一百多万个装满沙土的布袋和大量八轮楼车已经准备妥当，只等总攻日期一到，隋军就会发动猛烈进攻，拿下辽东城池指日可待。
但就在这时，杨玄感造反的消息从洛阳传来，杨广不禁大惊失色。
杨广突然明白为什么杨玄感督运的粮草老是不能按时到达了——他是故意的。
当杨广听说很多高官贵族子弟也帮着杨玄感一起造反，心里更跟着了火似的。
六月二十六日，另一个令杨广震惊的消息传来，随军的兵部侍郎斛斯政叛逃高句丽。
原来，杨广接到杨玄感造反的消息后不久，就发现杨玄感的兄弟杨玄纵和杨万硕不见了，便命人追查此事。由于斛斯政暗中帮助杨氏兄弟逃回国内，他害怕东窗事发，便脚底抹油，赶紧开溜，一溜烟叛逃到了隋朝的敌国高句丽。
杨广越发感到事态的严重。在杨广看来，老百姓造反不可怕，贵族大臣造反才可怕!而且还得到这么多人积极响应和帮助的贵族大臣造反，更是可怕之极。
六月二十八日深夜，杨广秘密召集前线将领开会，当众宣布撤军，回国平叛。
为了火速赶回国内，杨广要求部队撤退一定要快。而堆积如山的攻城器具和军用物资，则被丢弃在原地，统统不要了。
由于撤军命令下的太突然，撤退也极其慌张，隋军士兵都是丈二的和尚摸不着头脑，无不惊慌害怕，导致部队在撤退过程中极度混乱。
躲在城内的高句丽守军很快就发现了这一突发情况，但他们也有点发懵。仗打的好好的，怎么突然就跑了呢，连东西也不要了？这其中必定有诈，不能轻举妄动。
抱着这样猜疑的心理，高句丽没有派一兵一卒出城追杀，只是不停地在城内击鼓呐喊，吓唬隋军。到了第二天中午，城内才派出小股侦察兵出城侦察，看看隋军是不是真的撤退了。
出城后，展现在这些侦察兵面前的是一番奇异的景象：各种新奇巨大的攻城器具停放在原地，成堆的军用物资散落一地，到处看不到一个人影，远处的隋军大营大门敞开，营帐内空无一人。
周围寂静地可怕，一切都那么匪夷所思，这群侦察兵感觉自己恍如在梦境之中。很快，他们就把看到的情景报告给了城内长官。
但即便如此， 高句丽方面仍然怀疑有诈。他们担心隋军撤退是假，引诱他们出城是真。就这样又过了两天，高句丽方面才终于决定出兵追踪隋军。
可能还是怕会中隋军的埋伏，城内只派出几千名士兵在隋军后面跟踪。因为惧怕隋军人多势重，高句丽追击部队一直和隋朝大军保持着八九十里的安全距离。这么长的距离确实绝对够安全!
在得知杨广的御驾已经渡过辽河以后，高句丽追兵才敢上前追击包抄，并成功斩杀数千名落在后面的老弱病残士兵，然后回城复命去了。
最后隋军大部队顺利渡过辽河，安全撤回隋朝境内。
就这样，杨广第二次攻打高句丽的军事行动就以如此出人意料的结局结束了。
现在杨广已经没有心思去想攻打高句丽了，他现在十分着急，只想马上赶回洛阳，镇压杨玄感叛乱。
随后杨广命令宇文述、屈突通等人火速领兵南下，轻装急进，援救洛阳。而此时，杨玄感已经对洛阳下手了。
就在宇文述、屈突通等人心急火燎地赶赴洛阳时，杨玄感突破沿途隋军的层层拦截，对洛阳城发动了迅猛的攻势。洛阳守军也毫不示弱，在老将樊子盖的指挥下，拼死抵抗，杨玄感一时没有占到任何便宜。
不料就在此时，半路杀出来一个程咬金，洛阳搬的救兵到了！但这支救援部队不是从北边来的，而是打西边来的，领兵将领名叫卫文升，是一员高龄老将，时年七十三岁。
原来，长安方面一收到洛阳的告急文书，便马上派老将卫文升率领步兵和骑兵七万人火速增援洛阳。在赶往洛阳途中，卫文升还顺道去了趟杨玄感的老家华阴，并亲切会见了杨玄感的老爹杨素，把他从坟里刨了出来， 然后将杨素的尸骨一把火烧成了灰烬。
千算万算的杨素万万没想到，自己死后七年，会被人挖坟掘墓，挫骨扬灰。
卫文升刨杨家祖坟，除了表达誓死消灭杨玄感的坚定决心外，还有一层更深的用意。
古人认为祖坟风水的好坏会直接影响子孙后代的兴衰，而要阻止一个人兴旺发达，刨他家祖坟是最方便快捷、经济实惠的手段，只需要几个壮劳力和几把锄头铁锹就能搞定。从而有效杜绝了杨氏老祖宗从阴间发功支持杨玄感。
可以说，刨人祖坟是中国一项历史悠久的政治传统。
后来徐敬业讨伐武则天时，武则天就把徐敬业爷爷李绩的坟给刨了；再后来，明末李自成起义，崇祯皇帝也把李自成的祖坟给刨了。
总而言之，不管起不起作用，敌人的祖坟就在那里，不刨白不刨，起码有个心理安慰。
挖完杨家祖坟后，卫文升的部队火速赶到洛阳城北，向杨玄感的叛军发起了挑战。杨玄感一瞧来帮手了，毫不畏惧，欣然应战。双方大战了两个回合。
