李渊，字叔德，陇西成纪人，是东晋西凉武昭王李暠的七世孙。从七岁那年起，他就承袭了父亲唐国公的封号，小小年纪得以封侯袭爵，可谓童年得志。
有个叫史世良的人善于给人相面，他告诉李渊说：“您的骨骼惊奇，必为一国之主，愿您自爱，不要忘记鄙人说的话。”
李渊世袭谯、陇二州刺史，隋炀帝时升任太守。隋炀帝出征辽东时，派李渊督运军粮，当时隋朝故相杨玄感起兵作乱围攻东都。李渊紧急上疏，隋炀帝慌忙带兵回朝，命李渊为弘化留守剿灭杨玄感。后来杨玄感败死，李渊仍旧留守在那里。
窦氏是京兆平陵人，父亲窦毅在北周是上柱国，母亲是北周武帝的姐姐襄阳长公主。
窦毅认为自己的女儿不是等闲之辈，在选佳婿时想了一个办法：让人在门屏上画了两只孔雀，凡是两箭各射中一只孔雀眼睛的，就招为女婿。前边几十个人都没有射中，而李渊两箭都射中了。窦毅欢喜不已，便将女儿嫁给了李渊。
隋炀帝看到李渊的脸上皱纹多，便戏称李渊是“阿婆”，李渊回家后很不高兴，窦氏问清原因后马上贺喜道：“这是吉兆啊，你继承的是唐国公，‘唐’便是‘堂’，‘阿婆面’就是指‘堂主’啊！”
杨广第一次游幸江都以后，回宫后日夜不忘扬州的风景，再加一班后妃奸臣怂恿，便想第二次游幸江南。因为京城到扬州只有一条旱路，来往辛苦，杨广便打算从水路走。可京城到扬州并没有河道可通；国舅萧怀静说大梁西北方原有一条旧河道，如今壅塞不通，现在只须多招人夫重新开掘，引通孟津的水东接淮河，不过千里路程便可直达扬州。杨广一听立刻下诏，传征北大总管麻叔谋做开河都护，荡寇将军李渊做开河副使。可怜老人小孩都被官家拉去，每日天未亮便动工，天擦黑才住手。夜间又没有房屋居住，只好在河边草地里随处安身。工地上每天都有倒下死去的人。有人为了不被抓去当壮丁，甚至把手脚砍断，美其名曰“福手”、“福足”。
杨广接着下令打造各种龙舟，他自己所乘的龙舟高四十五尺，阔五十尺，长二百尺，上有四层楼，上层有正殿、内殿、东西朝堂，中间两层有房一百二十间，下层为内侍居处。
杨广的龙舟选有1000多名美女，杨广让她们穿上白衣在船前拉纤，自己在船上观赏。这时他看上了“殿脚女”吴绛仙，当即纳为嫔妃。杨广靠着门帘对身边的大臣们说：“古人说秀色可餐，吴绛仙真的可以疗饥啊！”
这时隋朝将亡的民谣在坊间流传开来，后来竟传人炀帝行宫。有宫女禀告萧皇后说：“我在外听人说桃李子，有天下。又有人说杨氏将灭，李氏将兴。”萧皇后说：“你快去奏报陛下。”于是宫女向杨广禀告，杨广听后大怒道：“这不是你该说的话！”于是将宫女处斩。
后来又有人向萧后报告：“外面有人预谋造反。”这回皇后自己也看淡了：“天下事一朝至此，势已然，无可救也。何用言之，徒令帝忧烦耳。”局势已经到了这个地步，还跟皇帝汇报什么呢，算了，别去烦他了，让他默默接受亡国的命运吧。
却说李渊奉命前进，适值大雨滂沱，不便行军，只得在贾胡堡驻扎。偏偏大雨浸淫不止，李渊日夜望晴，未见天霁，心中很是焦烦。
忽由军校呈入檄文，急忙取阅，但见文中写道：“魏公李密谨以大义布告天下：杨广罪恶滔天！即使罄南山之竹，书罪无穷；决东海之波，流恶难尽。愿择有德之人为天下君，仗义讨贼，共安天下。。。。。”
原来蒲山公李宽之子李密官至左亲侍，隋炀帝见他额头棱角突出，眼睛白多黑少，就说他眼神诡异，把他的官罢了，李密逃入瓦岗山投奔翟让。
李渊看毕自语道：“好大的胆量！”言未毕，二子李世民趋入，李渊将檄文递示。李世民览毕置檄案上，随即禀白道：“儿闻李密略取河洛，瓦岗寨盗贼奉他为主，自称魏公，现在有众数十万，为我军计，不如暂与联络，免得东顾。”李渊点头称善，便回书与李密约为同盟，书成后遣使持去。
隋炀帝赶走李密后又怀疑到盛郕公李浑身上，先是诬陷他谋反，接着杀身灭族。不久听说李渊深得将士之心，于是又猜疑起来，派使臣传召李渊。李渊因为李浑被灭族，不免兔死狐悲，现在突然奉诏，料定隋炀帝不怀好意。李渊无奈之下，便装出一副病容接见来使，私下里又拿出大量金银财宝贿赂使臣，说是自己病重，等病好之后马上到朝廷觐见。使臣得了金银，乐得做个人情，到了行宫后便替李渊说了很多好话。
李渊有个姓王的外甥在后宫当差，有一天被隋炀帝撞见，隋炀帝想起李渊便突然问他：“你舅舅为什么好几个月不来见朕啊？”王某慌忙答道：“恐怕是病体尚未痊愈吧。”隋炀帝微笑道：“干脆死掉算了。”王某担心舅舅安危，连忙写了封密信寄给李渊。李渊看完信后惊魂不定，可又想不出避祸的良策。
公元617年，李渊被封为太原留守，负责镇压农民起义军。李渊在太原的地位得到巩固之后，派长子李建成在河东结交英雄豪杰，又派次子李世民在晋阳一带招揽人才。
李渊的次子李世民是一个非常有胆识的人。他看到父亲整天愁眉不展，有天便对父亲说：“皇帝昏庸无道，父亲何必为他卖命呢？依我之见不如起兵反隋，与天下英雄一起推翻隋朝。”
李渊一听吓得颤抖不已，他对李世民说：“你怎能说出这种话来？这叫犯上作乱大逆不道。如果这些话被别人听到，你的性命就难保了。以后再也不许说这种话了。”