李渊父子在晋阳起兵之初，不得不解决一个重大问题，就是身后时刻在威胁着中土的突厥势力。
听从了李世民的建议，李渊派出刘文静为使者，以和亲为代价，并送上厚礼，表面上是要借兵买马，实际上是要解决自己的后顾之忧。
当时的突厥始毕可汗笑纳大礼之后，李渊才正式起兵。
后院的问题解决之后，大业十三年（617年）农历七月，李渊留下李元吉任太原太守驻守后方，然后率精锐三万人从晋阳出发，以“废昏立明，拥立代王（杨侑），匡复隋室”的名义正式起兵直趋关中。
代王杨侑见势不妙，遂派虎牙郎将宋老生率精兵二万驻守霍邑；左武侯大将军屈突通率兵数万驻扎河东，以逸待劳，扼守险要，准备迎击李渊。
李渊一开始进军较为顺利，一路攻城掠地，连战皆捷，但是到了距霍邑五十多里的贾胡堡，却戛然而止，加上霖雨天气，李渊寸步难行。两军相持近两月，宋老生、屈突通坚壁不战，扼守险要，坐等李渊军粮耗尽，不得已退兵时再乘胜追击。
待到天气好转，李世民用激将法惹怒宋老生出城迎战，李建成正面与其相持，李世民绕到宋老生后面偷袭，宋老生全军溃败，后被唐将刘弘基斩首，霍邑终被攻取。屈突通固守不出。
而在此时，隋炀帝远在江都（今江苏扬州），关内隋军力量薄弱；中原瓦岗军与王世充激战方酣，均无暇西顾。于是，在许多小股义军不断加入李渊队伍的情况下，李氏父子进军神速，大业十三年（617年）农历十一月初九日攻入长安。到了长安城下，李渊父子已有二十多万的兵马。
攻占长安之后，李渊拥立杨侑为帝，改元义宁，是为隋恭帝。
李渊晋封自己为唐王，“假黄钺、使持节，大都督内外诸军事，尚书公、大丞相”，集政治军事大权于一身。
同时，以李建成为唐王世子；李世民为京兆尹，改封秦国公；封李元吉为齐国公。
于是，李氏父子完全控制了关中局势，并在政治上占据了优势。此时距李渊起兵不过半年多一点的时间，夺取政权的速度令人瞠目。
公元618年三月，内外交困的隋炀帝在江都兵变被杀，大隋帝国的命运就此终结。
同年五月，隋恭帝被迫禅位于李渊，李渊即皇帝位于长安，国号唐，建元武德，定都长安，是为唐高祖。李渊以李世民为尚书令；不久，又立李建成为皇太子，封李世民为秦王，李元吉为齐王。
大唐帝国由此开创。
隋末大乱，群雄割据一方，建号称帝的人很多，但大多数都不具备逐鹿天下的实力，如刘武周、梁师都、薛举、李轨等。
武德元年（618年）农历六月，李世民攻打据有今甘肃兰州等地的薛举、薛仁果父子，农历九月薛举战死，农历十一月俘杀薛仁果，平定了西北广大地区。
武德二年（619年），唐朝用反间计，使李轨集团内部矛盾激化，从而俘杀了李轨，平定了河西走廊。同年刘武周、宋金刚勾结突厥，攻入河东，占领太原。李元吉、裴寂等败逃。后李世民出讨河东，收复太原并消灭刘武周势力。刘武周、宋金刚逃往突厥，不久被杀。
宇文化及在江都兵变之后掌握在江都的全部军事力量，虽然实力尚存，可惜人心已散，而且将士们都是北方人，思乡情重。宇文化及在返回北方的途中，却被蓄势以待的李密一举击溃。
随后，势同水火的王世充和李密两大军事集团便展开激烈决战，先期占据上风的李密却遭致惨败，手下将领出分别投向李渊和王世充。
李密认为自己长期围困东都洛阳，吸引了隋朝的绝大多数兵力，又断绝了隋军回首都长安的退路，才使得李渊父子乘虚而入，顺利占据长安，缔造帝业。自己也算得上李唐王朝的功臣了，于是决定向李渊投降，并附带奉送自已所属的山东一百多座城池。
李渊与其算是世交，于是任命李密为光禄卿、上柱国、邢国公，并常称他为弟弟。但是李密认为自己是首功之臣，对此并不满足，大失所望之下，使又和部将王伯当叛逃，联络旧部，准备东山再起，后被击败后斩首。
李密军事集团覆灭后，盘据洛阳的王世充就是李渊父子最有力的对手了。
王世充先期击败李密后，兼并了不少人马和土地，陡然间膨胀起来。他先是奉越王杨侗为帝，随后效仿李渊在洛阳接受禅让称帝，国号为郑。
河北的窦建德见自立为长乐王，建国号为夏。
武德三年（620年），李世民率主力进攻王世充，王世充决定死守洛阳。半个多月下来，李世民也未能攻克洛阳，唐军损失惨重，李世民的部将劝他放弃攻城，李渊出下诏令李世民班师回长安。李世民却认为困难虽多，也不是不可战胜，而攻克洛阳、消灭王世充是件一劳永逸的事，于是下令：“洛阳未破，师必不还，敢言班师者斩。”并改强攻为长期围困，寄希望困死王世充。
王世充粮食储备原本不多，不久便粮食耗尽，连草根树皮都吃光了，数次突围又遭败绩，陷入战既不得、守亦难久的绝境，无奈之下只得向宿敌窦建德求援。
窦建德素来看不起王世充。不过他十分清楚：群雄虽多，有实力的只有李渊、王世充和自己三人而已，恰成三足鼎立之势。如果王世充被李世民消灭，力盘的均衡便会被打破，王世充如果战败，李渊下一个目标自然就是装吞并自已了，于是便率领自己的全都精锐部队赶来救援。
窦建德的到来令唐军感到恐慌，王世充和窦建德的实力本就不弱，如果合兵一处，唐军便陷人腹背受敌的绝境，不少部将建议退军，放弃洛阳，静观其变。李世民却认为，王世充受困日久，屡遭败绩，已难以支撑，洛阳城指日可下；窦建德的军队长途奔袭，且骄兵必败。便命名将屈突通辅佐齐王李元吉围困洛阳，自己率精锐三千五百人抢先占据虎牢关，迎战窦建德。
这是李唐王朝创立以来决定生死的一战，胜则江山既定，一劳永逸；败则天下未有可期。
要成就一代风流大唐的伟业，在这个时候必须有历史性的人物站出来；李世民军事家的天赋在此一战显露无疑，虎牢关一战全歼来军，窦建德被擒，在长安被处死。
王世充感到穷途末路，只好出城投降。
随后，李唐王朝又用几年时间陆续平定其他的地方割据势力，完成了全国的统一。
