公元617年十一月，唐國公李淵,李世民破屈突通軍隊，攻入隋京大興(日後唐王朝仍在此定都)，擁立楊侑爲帝，是爲隋恭帝，改元義寧，遙尊煬帝爲太上皇，自任大丞相，進封唐王。由於唐軍攻入隋都大興城，全國震驚，煬帝身旁的軍士人心震動，以爲隋朝即將滅亡，爲求自保，由此發生了江都政變，使隋煬帝被殺，間接重創隋朝，使它走向滅亡。
大業十四年三月，隋煬帝在揚州被宇文化及殺害，隋朝統治到達尾聲，李淵趁此機會便於同年五月於隋朝首都大興城宣告建立唐朝，選擇大興城爲帝都，且改名爲長安，以關隴集團身份吸收隋朝殘餘力量，使到唐王朝在短時間內得到絕大部份隋朝殘餘勢力的支持而急速強大起來。大業十四年(618年)五月，李淵迫使隋恭帝禪位，自己稱帝，國號唐，是爲唐高祖。改元武德，都城仍定在大興，改名長安。封嫡長子李建成爲太子、嫡次子李世民爲秦王、嫡三子李元霸早夭、嫡四子李元吉爲齊王。李淵建立唐朝後，以關中爲基地逐步統一中國。618年，李世民平定西北的薛舉、薛仁杲，同年幽州羅藝降唐，同年，李法主因與王世充在雒邑相爭失利，投降唐朝，使唐朝軍事實力急速增長，使得日後在中原蕩平諸侯，虎據中原，由此作爲統一天下的基始。
公元619年，唐使安興貴、安修仁生擒佔據河西走廊的李軌。620年，李世民擊敗攻入河東的劉武周、宋金剛。621年，李世民東征河南的王世充，王世充與河北竇建德結盟抗唐。622年，李世民俘竇建德，王世充投降。竇建德餘部劉黑闥因爲竇建德在622年被李淵所殺而兩次起兵反唐，皇子李建成、李世民、李元吉和大將李靖等先後征伐，李建成623年俘斬劉黑闥，河北平定。623年，輔公祏率杜伏威餘部在丹陽反唐，624年被唐軍俘殺，江淮、江南平定。621年，唐大將李靖圍攻江陵，蕭銑降唐。翌年，嶺南馮盎降服，又虔州林士弘死，唐據贛地。
李世民軍事才能突出，率軍贏得多次關鍵勝利。掃平羣雄後，太子李建成與秦王李世民出現了爭位衝突，武德九年(626年)六月初四，秦王李世民發動玄武門之變，殺了李建成與齊王李元吉，控制了長安城。不久，李淵深知形勢，於是禪讓帝位，自稱上皇。世民登基，是爲唐太宗。
