他的祖父李虎是西魏的左僕射，封隴西郡公，官至太尉，是西魏的八柱國之一，死後被追封唐國公。李淵的父親李昞，襲封唐國公，是北周的安州總管和柱國大將軍。李淵含着金鑰匙出生，七歲就襲封爲唐國公。
說起來，李淵和隋朝皇帝還是親戚，他和隋煬帝楊廣是姨表兄弟。公元617年，李淵被任命爲太原留守，這是個十分重要的職位，因爲太原是軍事重鎮，餉糧豐厚，儲備的軍糧可供十年之用，所以李淵在太原的勢力很大。隋朝末年，天下大亂，各地的農民起義軍層出不窮。李淵趁着鎮壓起義軍的機會，不斷壯大自己的軍事力量，而且讓自己的次子李世民出面，廣交天下的英雄豪傑。
起兵始末
在李世民結交的朋友中，有一個人叫劉文靜。劉文靜原本是晉陽的縣令，因爲跟瓦崗寨的起義軍首領李密有親戚關係，因此受到株連，被隋煬帝下令逮捕，關進晉陽的監獄。
李世民去監獄裏探望劉文靜。劉文靜此人可一點都不文靜，他素有謀略，早就看出李世民不是一般人，此刻自己以反賊的親屬身份深陷牢獄，更是沒有什麼可顧忌的了，索性向李世民提議起兵造反。李世民早就有這個心思了，二人一拍即合。
可是光李世民一個人想幹還不行，關鍵還要自己的老闆兼老爸李淵拍板才行。雖然當皇帝的誘惑足夠大，可是李淵這個時候在太原基本上也已經是個土皇帝，日子過得還算舒坦，起兵造反的風險畢竟太大，搞不好不僅土皇帝做不成，而且還要搭上全家的性命。
所以李世民對於說服李淵沒有十足的把握，他深知，行非常之事必要有非常之手段，爲了做成大事，就算是“坑爹“也在所不辭。
他想到了一個“坑爹“的主意，而且這個主意十分有水平，坑得自己的爹一點脾氣都沒有，而且還會很爽。因爲他的主意就是：請自己的爹泡妞。
堂堂的太原留守泡的肯定不能是普通的妞，於是李世民找到了一個人幫忙：晉陽宮副監裴寂。
裴寂(573年-629年)，字玄真，蒲州桑泉(今山西臨猗)人，唐朝宰相
晉陽宮是隋煬帝楊廣的行宮。衆所周知，楊廣是個風流好色的皇帝，他每到一處地方，都會修建行宮，挑選美女入宮供他淫樂，而宮監的主要工作就是幫他管理行宮的各項事務，包括美女。
當時的李淵任晉陽宮監，而裴寂是副宮監，兩人關係親密，是鐵哥們。
一天，裴寂請李淵喝酒，兩人吃着火鍋唱着歌，心情十分舒暢。喝到高興處，裴寂說起了醉話：“要有風，要有肉;要有火鍋，要有霧;要有美女，要有驢!”
李淵也醉得不輕，還沒等他領會過來裴寂的話到底是什麼意思，他就看見幾個美女朝他走了過來。然後，他就糊里糊塗地被美女扶上了牀，後來……
一夜無話。交配交之人，做愛做的事，這兩件人生的大事，李淵都做到了。那天晚上風流過後，他笑着向自己的知心好友裴寂道謝。可當裴寂告訴他昨晚上那幾個美女的身份時，他就再也笑不出來了。
原來，那幾個美女是晉陽宮中的宮女。換句話說，那都是皇帝的女人。動了皇帝的女人，李淵嚇得魂都沒了：“什麼，你這不是玩我嗎?”他那天和美女玩得很爽的時候，怎麼也想不到自己卻被裴寂給玩了，而讓他更想不到的是，此事的幕後指使者正是自己的兒子：李世民!
裴寂趕緊解釋：“這可不關我的事啊，全都是您二公子李世民的主意。”李淵哭笑不得，連他也說不清兒子這算是幫他還是害他。正在這個時候，有一個人出來攪了局。
此人是李淵下屬的馬邑(今山西朔州市)鷹揚府校尉劉武周，他在馬邑發動兵變，自立爲天子，並與北方的突厥勾結，攻破樓煩郡，進佔汾陽宮。
小小的一個軍官，居然搞出這麼大的事情來。隋煬帝本來就聽說李淵在太原招兵買馬，早已對他有了猜疑之心，現在發生了這種事，更是氣不打一處來，準備抓李淵到江都治罪。
李世民眼看時機成熟，趁機遊說自己的老爹：“事已至此，既然您玩都玩了，我們不如玩把大的。反了吧。”
李淵想了想，造反的話將來可能會送命，可不反的話可能現在就會送命，於是他長嘆一口氣：“也罷，今後咱們家破人亡也是因爲你，化家爲國也是因爲你。聽天由命吧。”終於下定決心。
李淵的大兒子李建成、四兒子李元吉以及女婿柴紹從各地趕往晉陽，等這些人一到，李淵正式宣佈起兵反隋，拉開了大唐王朝創業的序幕。
