李世民进入洛阳宫城，下令萧瑀、窦轨等人封存守卫隋朝府库，严禁将士私取任何财物，秋毫无犯；只命令记室房玄龄专门收集天下地图、户籍册簿，为日后治理天下留存重要资料。随后，下令将段达等五十多名与王世充一同作恶、祸乱百姓的奸佞之臣就地斩杀，释放所有被冤枉囚禁的百姓，对无辜被杀害的百姓举行祭祀仪式，撰写祭文致以哀悼。同时，置办酒食犒赏全军将士，按照军功品级依次颁赐财物，安抚军心、体恤百姓。
唐高祖李渊得知洛阳大捷、一举平定两大割据势力的喜讯后，龙颜大悦，当即下令让尚书左仆射裴寂赶赴军中，慰劳全军将士，并亲自写下诏书嘉奖李世民：“隋朝末年天下分崩离析，崤山、函谷关隔绝南北，两大割据势力会合作乱，如今一朝平定清肃。大军大获全胜，且最大限度减少伤亡，做臣子的尽忠职守，毫无惭愧，做君父的无需担忧，这全都是你的功劳！”
武德四年（公元621年）六月，李世民率领大军凯旋归京，他亲自身穿华丽的黄金铠甲，麾下一万名铁甲骑兵、三万名精锐武士列成整齐军阵，前后配备鼓吹乐队，军威浩荡，将俘获的伪朝君主窦建德、王世充，以及隋朝遗留的皇家器物、帝王车驾，一同献往太庙，告慰先祖，彰显战功。
唐高祖李渊欣喜万分，特意举行古代隆重的饮至礼，设宴犒劳李世民与全军将士。李渊认为，自古以来的官职爵位，都不足以彰显李世民的盖世功勋，于是专门为其拟定独一无二的尊崇称号，以表彰他的赫赫功绩与大德盛才。同年十月，下诏加封李世民为天策上将、陕东道大行台，地位位列所有亲王、公爵之上；特许其在洛阳开设天策府，全权掌管国家征伐战事；增加食邑两万户，加上此前的封赏，共计食邑三万户；同时赏赐金辂车一辆、衮冕礼服一套、玉璧一双、黄金六千斤，还赐予前后部鼓吹乐队、九部乐舞，以及持班剑的仪仗卫士四十人，恩宠与地位冠绝朝野。
此时，天下渐渐太平，李世民收起征战之心，开始专心研读经史子集，潜心文治。他在洛阳设立文学馆，广纳四方才学之士，招揽天下英才，任命行台司勋郎中杜如晦等十八人为文学馆学士，每次让学士们在馆中轮流值班，李世民放下亲王身段，以温和谦逊的态度，与学士们探讨经义、畅谈治国之道，有时彻夜长谈，直到半夜才歇息。
好景不长，窦建德的旧将刘黑闼不甘心失败，举兵反唐，迅速攻占洺州，河北地区再度陷入战乱。武德四年（公元621年）十二月，李世民临危受命，统领全军东征，讨伐刘黑闼。
武德五年（公元622年）正月，李世民率领大军进军肥乡，站稳脚跟后，立刻分兵切断刘黑闼的运粮通道，让其陷入粮草不济的困境，双方对峙长达两个月。刘黑闼被步步紧逼，急于求战，亲率两万步兵、骑兵，南渡洺水，清晨时分便逼近唐军阵营，发起全线进攻。李世民亲自率领精锐骑兵，率先攻击刘黑闼的骑兵部队，一举将其击溃，随后乘胜挥师，冲击践踏敌军步兵，敌军瞬间全线崩溃。此战唐军斩杀敌军一万余人，尸横遍野。
早在开战之前，李世民就提前派人在洺水上游筑坝堵水，故意让水流变浅，引诱刘黑闼率军渡水。等到两军激战、敌军溃败之时，李世民立刻下令挖开拦河大坝，上游大水倾泻而下，水深一丈有余，刘黑闼的溃兵逃至河中，尽数被大水淹死。刘黑闼仅率领两百多名亲信骑兵，仓皇向北逃往突厥，其麾下部众全部被唐军俘虏，河北地区至此彻底平定。
当时，叛将徐圆朗率军占据徐、兖二州，阻碍唐军平定天下，李世民随即率军回师，讨伐并一举平定徐圆朗。至此，黄河、济水、长江、淮河之间的所有州郡城镇尽数归顺大唐，全国统一大业基本完成。同年十月，唐高祖李渊再次加授李世民为左右十二卫大将军，李世民的天策上将府，也正式成为唐朝最高军事统帅部，权势达到顶峰。