高祖李渊北周贵族，生于天和元年，世袭唐国公。后隋文帝代周，李渊补封为千牛备身的职位，是一个高级禁卫武官的职位。再加上隋文帝的独孤皇后是李渊的姨母，于是特别受到重用，先后历任谯州、陇州、岐州刺史。大业初年，做荥阳、楼烦二郡太守，大业九年，升为卫尉少卿。辽东战事时，负责督运粮草。
高祖历任朝廷内外官职， 且十分得人心，很多豪杰都诚心归附。由于名声在外，一度引起炀帝的猜疑。自从炀帝继位以来劳民伤财穷奢极欲，导致此时的民变现象已经爆发，社会动荡不安。陆续的农民起义逐渐发展到全国，隋朝的统治已经岌岌可危了。大业十三年，高祖为太原留守。这时各地农民军，贼寇等已经群起造反，甚至炀帝所在的江都都受到了围困。后经太宗和大臣们的倡议，在五月发动起义，史称晋阳起兵。取西河，杀宋老生。一路过关斩将，最终于十一月九日，攻克隋朝京都。立隋之代王杨侑为天子，改年号为义宁。遥尊杨广为太上皇。隋帝下诏授予高祖大都督总管朝廷内外所有军事事宜，是为大丞相。义宁二年，隋重臣宇文化及弑杀隋太上皇炀帝。五月，没有实权的隋恭帝诏令禅位于高祖。高祖称帝，改义宁二年为武德元年，建立唐朝。 而此时，各地方势力也称王称帝。于是，高祖令秦王等将领先后平定各地方割据势力，逐步统一全国。
武德九年八月，诏命传位秦王李世民，高祖被尊为太上皇。贞观九年逝世，上谥号大武皇帝，庙号高祖，葬献陵。