公元617年，李淵和他的兒子李世民在晉陽起兵，從此之後這支起義軍就像一支利箭，直插隋朝的心臟，在根據史料記載，晉陽起兵的主導者是李世民，但是在當時只有十八歲的李世民並沒有傳說中的那麼英明神武，最主要的行動策劃者還是李淵，在起兵之前他因爲犯罪被楊廣下獄，在給李世民的書信中說道：“如果我在這邊有什麼不測，你們兄弟三人立刻起兵，不要被世人恥笑。”由此可見李淵早就已經下定了起兵的決心。
在後來因爲戰事吃緊李淵被釋放，於是命令李世民在晉陽招募豪傑，而李建成和李元吉則是在河東搞好關係，這兩個都是李淵起兵的中堅力量，但是這個時候想要起兵的話，李淵的兵實在是太少了，隋朝的制度是不允許隨便招兵的，要是沒有朝廷的同意，招兵超過一千人就是死罪，立刻被殺頭。楊廣這個時候已經準備起兵，還怕殺頭嗎?但是在此之前，他必須要先解決楊廣留下來的兩顆棋子。
想要起兵造反，第一個問題那肯定就是要有兵，但是想要徵兵，那就必須要有充足的理由，而楊廣的兩顆棋子王威和高雅君都是對隋朝忠心耿耿的人，拉他們入夥是不可能的，把他們殺掉反而更有可能，但是現在還需要他們兩個幫忙徵兵，要怎麼得到他們兩個的支持呢?李淵一直在等待機會。
大業十三年，劉武周半邊，殺害了自己的長官王仁恭，自立爲天子，而他所在的地方就是距離太原很近的馬邑，這對於隋朝來說可能不是什麼好事，但是隊員楊廣來說，這是天賜良機。於是他藉機對王威和高雅君說：“劉武周雖然不足爲慮，但是現在居然膽敢稱皇帝，如果讓他在汾陽立穩了腳跟，這就是滅族之罪啊。”這兩個人也覺得問題很大，於是下定決心要李淵徵兵討伐劉武周。
但是李淵卻不急，因爲這兩個人還還不夠既，他深知敵之要點即我之要點，你越急，我就可以越穩，他說道：“現在還不急，我們應該以靜制動，不要擾亂軍心。”然而到了三月，劉武周真的攻破了汾陽，而且聯合東突厥，下一步劉武周很有可能要進攻太原，這個時候王威和高雅君已經急得像熱鍋上的螞蟻了，但是李淵依舊不急，他讓太原的士兵開倉濟民，而且還要加固城池的防守，好像要在這裏長住了。但是王威和高雅君按耐不住了，說道：“現在太原的老百姓的姓名全都在您的手上了，要是您還不徵兵，誰能擔此大任?”
李淵知道現在機會到了，他心裏非常高興，因爲王威和高雅君比自己更着急，只等着他一聲令下數萬大軍便能立刻集結，但是他還是面露難色說道：“朝廷的制度是外出打仗的將領一舉一動都需要向皇帝報告，但是現在皇帝在三千里之外的江都，這可怎麼辦啊?”王威兩人趕緊說道：“明公文韜武略，天下誰人不知，現在正是誓死報國的時候，如果遇到這樣的額事情還要稟報的話那國家怎麼辦?請明公便宜行事就好”這個時候李淵順水推舟說道：“大家都是包小朝廷，不要互相猜忌纔是。”二人連連稱是，直到現在，李淵才真正有了一個徵兵的理由。
命令一下便迅速徵集了三萬大軍，這支隊伍就是李淵接下來的主力部隊，命令他們全部趕往興國寺駐紮，另外命令李建成和李元吉還有自己的女婿柴燒迅速趕到太原，你爹要幹大事了，現在兵也有了，將是自帶的，接下來就是高想着怎麼幹掉王威和高雅君了。然而這兩個人也不是笨蛋，李淵的舉動已經讓他們懷疑了，因爲李淵把軍隊交給了三個人管理。
這三個人就是：李世民、長孫順德和劉弘基。交給李世民無可厚非，畢竟是他的兒子，但是後面兩個人是朝廷的囚犯，怎麼能把軍隊交給他們呢?瞎子也知道李淵到底是想幹什麼，他們打算先下手幹掉長孫順德和劉弘基，但是卻被武士彠(武則天的父親)阻止，他說道：“這兩個都是李淵的座上賓，要是他們有什麼事情恐怕會出事啊。”兩人想想也有道理，但是這個不是你死就是我亡的時候，道理是不管用的。
李淵可管不了那麼多，造了一個罪名說王威和高雅君想要聯合突厥進攻隋朝，也不管別人的反應便把這兩人下獄了，至此準備工作全部就緒。由此可見晉陽起兵，從兵源問題到政治問題，都是李淵一手抓的，並不是像史書中說的那樣，全靠李世民。
