楊廣得了太子之位，志得意滿，心想自己是個做大事的，用不著和小人一般見識，李淵還有幾分本事，與其處處針對他，讓他成了自己的敵人，不如把他拉攏過來，也是一大助力。更何況，想要除掉這個人，完全不必急于一時，等自己做了皇帝，想怎么樣，還不是一句話的事。于是，他派人給李淵送了不少金銀珠寶，可是李淵卻說自己并沒任何功勞，受不起太子爺的賞，把銀子退了回來。楊廣因此火冒三丈，可惜一時抓不著李淵的把柄。

隋文帝的第四個兒子，蜀王楊秀，因為不滿楊廣得了太子之位，三番四次地找楊廣的麻煩。楊廣擔心楊秀威脅到自己的地位，派楊素在隋文帝面前污蔑楊秀，隋文帝于是將楊秀貶為庶民。對于楊廣的兩個敵人，李淵卻上書說：“楊勇和楊秀就算有錯，到底是皇帝的兒子，降低品級封號也就是了，貶為庶民有些重。”隋文帝雖然沒有采納，但也沒有責罰李淵。楊廣因此愈發記恨李淵，不知道找什么辦法才能除了這跟眼中刺，肉中釘。他找來張衡、宇文述商量這件事，就想到了隋文帝的那個夢：

有一天晚上，隋文帝做了一個夢，夢中自己站長安城上，身邊還有三棵大樹。他正在向外張望，忽然洪水鋪天蓋地的涌了過來，幾乎要將長安城淹沒了。他嚇得六神無主，猛然間醒了過來。

隋文帝疑心特別重，自從做了這個夢之后，時常揣測那是不是危及江山的兇兆。他原本想的是，名字中有水的人會危害國家社稷[7]。當時的郕國公李渾，不但名字中有水，而且郕國公的“郕”，有“城”的意思，合起來就是大水淹城。隋文帝想到這兒，尋了個錯處，將李渾一家五十多口全都殺了。

楊廣他們想到這件事，就定出一條毒計來。

沒過多久，流言蜚語傳遍了街頭巷尾，說“楊氏滅，李氏興”、“桃李子，有天下”。流言傳到宮里，隋文帝想到夢中那三顆樹都是結了果子的，樹就是木，樹上的果子就是木的孩子，木子合到一起可不就是個李字，看來單單殺掉李渾一家，還遠遠不夠。術士安伽陀收了楊廣的賄賂，勸隋文帝殺了天下所有姓李的人。當時丞相高颎有個叫李密的好友，他不忍朋友無辜受害，就勸隋文帝說：“天下姓李的人多如牛毛，豈能全都殺了？不如把朝中姓李的官員全都外放，他們掌不了權，也就無法做出危及江山的事了。”于是朝中的李姓官員，紛紛辭官，李淵也因此逃過一劫。他辭去當時的官職，去太原做了郡守。

楊廣見李淵只是被貶去了太原，很不甘心，又把宇文述等人找來商議。宇文述說：“殿下，臣倒是有個辦法，保管能將李淵斬草除根。”楊廣聽了，馬上追問是什么辦法。宇文述說：“屬下的兒子宇文化及武藝出眾，不如讓他扮成山賊，在李淵去太原的路上，找個機會，將李淵全家殺干凈了，殿下覺得怎么樣？”楊廣一聽哈哈大笑，說：“確實是個妙計，就按你說的做。你知道的，若真能殺了李淵，我一定不會虧待你。”于是，宇文述讓兒子立即動身到潼山埋伏好，等李淵一家來。

李淵得了太原郡守的差事，根本不敢在京城多待，簡單地收拾了一下行李，就帶著家眷、家丁上路了。當時正是中秋，因為李夫人竇氏身懷六甲，所以一路上走得并不快。李淵讓長子李建成和族弟李道宗在前面開路，夫人的馬車走在中間。那天剛走到植樹崗，那里地勢險峻，方圓數里都沒有人煙。忽然前方竄出幾十個大漢，各個黑巾遮面，一身強盜打扮。嘴里嚷道：“哥幾個最近手頭緊，想跟官爺們借些銀子用用。”李建成一聽，立即撥馬往回跑，嘴里高喊：“不好了，父親，我們遇上強盜了。”李淵大吃一驚，留李建成保護家眷，自己提著方天畫戟帶了二十個家丁趕過去。只見強盜們個個膀大腰圓，且服飾統一，顯然是遇上了硬茬。

李淵本想破財免災，可那伙人中的一個，見到李淵騎馬過來，忽然大聲喊道：“白馬上坐著的就是李淵，兄弟們，上。”說完當先催馬殺了上來。李淵雖然勇猛，但架不住盜匪人多，他帶著家丁砍殺了兩個時辰，家丁幾乎死傷殆盡，自己也漸漸力不從心，結果一招不慎，被人從馬上打下來。李淵眼看就要沒命，偏偏李道宗和家丁被人圍著，趕不過來。正在這危急關頭，斜坡上猛然沖出一匹黃驃馬，馬上坐著一個大漢，頭戴一頂氈帽，手提金锏，高聲喊道：“好大膽的盜匪。”話音未落，人已經沖到了。那人金锏一揮，就將一個賊人從馬上打了下來。這幫盜匪已經和李淵的人廝殺了兩個小時，眼看就要成了，偏偏橫生枝節。他們原本還慶幸只來了一個人，卻沒想到這人竟是員虎將，只一個照面，就將自己的人斬于馬下。于是他們扔下李淵，開始圍攻這名壯漢，不料，這么些人竟沒一個能在這人手上走過一招。領頭的一見這人厲害，當先調轉馬頭跑了，手下的見了，也跟跟著逃了。

李淵在家丁的攙扶下，從地上爬起來，讓人將那位壯漢打倒的盜匪綁了。他心里就懷疑這幫盜匪有蹊蹺，所謂盜匪，圖的不過就是錢財，可這批人顯然是沖著自己這條命來的。果然，那賊人不住磕頭求饒，招認說：“此次要殺大人的是太子，剛剛的領頭人是宇文述的兒子宇文化及。”李淵一聽，嚇出一身冷汗。想起救了自己全家的恩人，忙走過去道謝，沒想到那個漢子已經調轉馬頭打算走了。李淵趕忙催馬趕上去，口中喊道：“英雄留步，英雄救我全家性命，對我李淵一家有天大的恩德，請一定留下姓名，好讓我們有機會報答恩公的救命之恩。”那人回過頭，笑著說：“你不必謝我，我只不過趕上了。”說完騎馬走了。李淵受了別人大恩，無論如何也不能連恩人的名字也不知道，騎馬一路追了下去，一直追了十幾里。那人實在熬不住，只得停下馬說：“唐公不要再追了，我姓秦，單名一個瓊字。”說完揮了揮手，一夾馬腹跑遠了。李淵折騰了一天，人困馬乏，實在追不動。可恨只聽到一個瓊字，叔寶揮手時伸出了五個指頭，李淵以為叔寶排行老五，于是把瓊五這兩個字，牢牢地記住了。

李淵見天色晚了，也不敢再耽擱，掉轉馬頭準備回去和家人會合，沒想到前方忽然傳來馬蹄聲，一個人騎馬飛奔過來。李淵心里一驚，直覺是宇文化及的人去而復返，從后背抽出一支箭射過去，那人應聲落馬。李淵和家人會合后，正說起這件事，就來了一群農夫，圍著他哭嚷：“你是什么人，我家大人和你有什么仇怨，你為什么要殺他？”李淵仔細一問，才知道自己射死的是個剛從京城做生意回來的生意人，名叫單雄忠，一時追悔莫及，解釋說自己剛剛遇到劫匪，單雄忠騎馬飛奔過來，他以為是劫匪的同伙，實在不是故意的，自己愿意出些銀子安葬這人，以后也會多做善事，彌補今天的過失。那些人見他一身武將的裝扮，知道自己惹不起，沒拿李淵的錢，抬起單雄忠的尸身就走了。