楊廣繼位後，大刀闊斧的邁出了他建立不世帝業的步伐，選人才，搞改革，重修東都洛陽，開鑿和疏通長水渠，巡行天下，對外開戰以顯國威，等等。馬不停蹄，夜以繼日，征民徵兵收稅收糧，為了他的理想，亢奮的楊廣並不在乎他的官員和百姓跟不跟得上他的步伐，反正他是帝國的老大，一切他說了算。但他到底堵不住天災人怨，黃河水災爆發了，農民起義也一個接一個的起來反抗了。
但是一心征討高句麗的楊廣對農民起義是不屑一顧的，你們想反就反，掀不起什麼風浪，等他把高句麗據為己有，在回過頭來好好算帳。只是楊廣太自信，自信到沒有察覺高級官員中已經有了反對他的聲音，以至於在他第二次東征高句麗的時候猝不及防的回撤大軍趕回洛陽平叛，即便叛亂很快被平定了，但真正的影響對於楊廣來說是致命的，那就是他快成為孤家寡人了。
這次叛亂的領導人物是楊玄感，出自弘農楊氏，一個關隴集團的貴族精英。而楊玄感的父親正是大隋朝鼎鼎有名的楊素，楊素本就是大隋的開國功臣，並且楊廣之所以能登基離不開楊素的籌謀。早在楊廣還是晉王的時候，宇文述就為了楊廣結交楊素，因為楊廣要想做太子就必須得到楊素這樣的重臣的支持，而楊素也的確選擇了楊廣，在多番謀划下，讓楊廣如願坐上了太子之位，後來楊廣能順利繼位又是楊素出力最多，楊廣繼位後楊諒反叛，同樣離不開楊素的平叛，總之，楊素是一等一的大功臣。
楊素得到的自然也是加官進爵，各種賞賜不斷。但是隨之而來的就是楊廣的猜忌，楊廣太知道了楊素的能力了，所以他處處防著他，在楊素生病的時候不斷派醫生檢查、治療、詢問，不過是為了刺探楊素的病情。楊素自然知道楊廣的猜忌，所以表現得非常的貪財享樂等等，君臣反正是不可能和睦了。
楊廣604年繼位，楊素606年就死了。關於楊素的死因，有野史認為是楊廣下毒害的，正史則說楊素是病死的，而且是楊素主動不再吃藥任由病情加重而死的。不管是哪種死法，和楊廣都有關係卻是事實。
楊素死後，其長子楊玄感繼承了他的楚國公爵位，虎父無犬子，楊玄感雖然小的時候差點被人當成痴呆，但大了真是一表人才，姿容俊美，讀書騎射無一不精，靠著父蔭很早就成了柱國，在做刺史的時候政績也是很不錯的。楊素死後，楊玄感很快升任禮部尚書，當然同樣也被楊廣所忌憚，而楊玄感自然也並不喜歡楊廣，總想著為自己的父親報仇，早就開始在背地裡謀划著除掉楊廣另立新君。
808年，楊廣攻打土谷渾，而楊玄感也跟隨大軍前去，當他們第二年滅掉土谷渾回國的途中，楊玄感看到軍紀渙散、官員狼狽，就和自己的叔父楊慎商量著動手除掉楊廣，但是楊慎並不同意，在楊慎看來，楊廣雖然失去了一些民心，但是擁護者還是比比皆是，現在並不是對楊廣下手的好時機，所以他對楊玄感說：
「士心尚一，國未有釁，不可圖也。」
楊玄感也不得不打消了殺死楊廣的念頭，繼續等待合適的時機，這一等就是四年多。這期間發生了太多，楊廣在作的道路上停不下來，而被他折磨的痛不欲生的百姓不得不丟下手中的鋤頭，轉而換成大刀，聚眾起義了。起義越來越多，而楊廣還在執意攻打高句麗。613年，楊廣不顧阻攔又開始了第二次東征高句麗，派楊玄感到黎陽督運糧草。
楊玄感的機會終於來了。
俗話說「兵馬未動糧草先行」，糧草對行軍打仗的重要性不言而喻。楊玄感和王仲伯、趙懷義等商量了一下，糧草的發運堅持拖和少兩個原則，能少給就少給，能拖一天就晚一天。楊廣在遼東自然會受到影響，曾派使者快馬加鞭趕回來催促，而楊玄感委屈巴巴的說：
「水路多盜賊，不可前後而發。」
遠在遼東的楊廣只能忍了，楊玄感又秘密把在遼東戰場上的兄弟們都招了回來，開始秘密為起事做準備，雖然討伐楊廣的時機成熟了，但也需要一個理由，畢竟楊玄感之前並沒有建立什麼軍功，也沒有多少威望，不可能隨隨便便號令士兵。於是楊玄感就把目光放在了剛剛出發準備從海上進攻平壤城的來護兒，他派人假扮使者從東部而來，說來護兒因為延誤了軍期要起兵反叛。
楊玄感義不容辭起兵討伐來護兒，並傳文書到附近的州郡響應起兵，而後來的瓦崗梟雄李密正是在這個時候來到楊玄感身邊的，並很快成為楊玄感的軍師，只是這兩個人雖然志向都差不多，並且早年交往很密切，但是謀略卻是不同。
楊玄感問計於李密，李密將自己的考慮全盤托出：
「今天子出征，遠在遼外，地去幽州，懸隔千里，南有巨海之限，北有胡戎之患，中間一道，理極艱危。今公擁兵出其不意，長驅入薊，直扼其喉。前有高麗，退無歸路，不過旬朔，齎糧必盡。舉麾一召，其眾自降，不戰而擒，此計之上也。關中四塞，天府之國，有衛文升，不足為意。若經城勿攻，西入長安，掩其無備，天子雖還，失其襟帶。據險臨之，固當必克，萬全之勢，此計之中也。若隨近逐便，先向東都，頓堅城之下，勝負殊未可知，此計之下也。」
簡單來說就是：北距涿郡為上策，西入長安為中策，而就近攻打洛陽為下策。不難看出，李密思維慎密，想得比較長遠。
但是楊玄感卻有自己的打算，他認為李密說的正好相反，攻打洛陽才應該是上策，原因就是百官的家屬基本都在洛陽，只有控制了洛陽，才能號令天下，而且哪有這麼近，卻不攻打的道理呢，這樣還怎麼立威取天下?
並不能說楊玄感的想法就是錯的，但他的這種想法需有一個前提，即洛陽是容易攻打的。但是，偏偏洛陽易守難攻，壁壘把守很嚴，並不會輕易被攻下，即便楊玄感占盡了天時地利人和，也無法短時間內撼動洛陽城，而楊廣的大軍很可能很快就回師自救。
楊玄感仿佛已經看到了勝利的曙光，又怎麼指望他看到潛在的巨大危險？
楊玄感帶著集結的上萬人馬準備圍攻洛陽，而鎮守洛陽的越王楊侗和將領樊子蓋早已獲知楊玄感反叛之事，正在調集人馬守衛洛陽，一場大戰即將開始。
楊玄感屯兵於尚書省的時候，部眾已經達到了十幾萬，人數還在不斷增加，他的起兵宣言非常的感人：
「我身為上柱國，家累巨萬金，至於富貴，無所求也。今者不顧破家滅族者，但為天下解倒懸之急，救黎元之命耳。」
為了天下蒼生，甘願冒家破族滅的風險。被賦稅和徭役壓得喘不動氣的百姓自然是萬分擁護的。但是戰爭的形勢卻不容樂觀，攻打洛陽實在不是一步好棋。
洛陽由樊子蓋把守，而樊子蓋對於楊玄感的招降信完全置之不理。留守長安的刑部尚書衛文升帶領幾萬大軍增援洛陽，雖然在與楊玄感的幾次作戰中均以失敗告終，但楊玄感也不是沒有損失，其弟楊玄挺被殺，而楊玄感也被牽制住了兵力。
遠在遼東的楊廣在得知楊玄感起兵後更是大為重視，派出了好幾路人馬，陳棱、屈突通都被派上了戰場，而遠在遼東的宇文述也帶著命令領大軍回師增援洛陽，還有本來海路進攻平壤城的來護兒也被指派回軍攻打楊玄感。
一時間，楊玄感幾乎四面楚歌，遂問計於李密和李子雄，兩人的觀點倒是相同，那就是入關，憑藉潼關之險據守，楊玄感於是帶著大軍向西撤退，到了弘農宮的時候，楊玄感卻停了下來。
他又被眼前的以點好處打動了，百姓們都告訴楊玄感應該打下弘農宮來，因為這個地方實在太好打了，不僅兵力空虛而且糧食很多，打下來簡直是百利而無一害。
即便李密告訴楊玄感如果不能迅速占領潼關，他們將無路可退，楊玄感還是決定先打下弘農宮來。但是很不幸的，百姓口中容易攻下來的弘農宮，楊玄感用了三天時間還沒有打下來。這一耽誤不要緊，楊玄感再也沒有機會到達潼關了，宇文述的大軍很快趕到。
楊玄感再次節節敗退，身邊之人越來越少，最終楊玄感和楊積善兄弟倆帶著十幾個人狼狽不堪的逃竄，在走到葭蘆戍的時候，逃無可逃，貴族出身的楊玄感自知再無活著的可能，遂對楊積善說：
「事敗矣。我不能受人戮辱，汝可殺我。」
楊積善抽刀將楊玄感殺死，在準備自殺的時候被追兵攔下。轟轟烈烈的楊玄感反叛就這樣被平定了。
楊廣為了發泄心中的怒火，將楊玄感暴屍三天後分屍，一塊塊的用火燒掉；
將楊玄感的姓改為梟；
楊玄感的諸弟被殺。
但是，即便楊玄感叛亂在短短兩個月的時間就被平定了，但這場叛亂帶來的影響卻是巨大的。它標誌著楊廣的統治集團內部已經出現了分裂，而關隴集團逐漸公開化的走到了楊廣的對立面。幾個農民起義楊廣可以不在乎，但高級官員的起兵對他的打擊卻是致命的。
楊玄感死後不多時，另一個同樣在黎陽督運糧草的關隴集團的高級官員再次被楊廣所殺，這一次是李敏，同時被殺的還有李渾和李家三十二口人。