李渊入辅隋政，以李世民为唐国内史，改封秦国公，食邑万户。时薛举拥精兵十万，进逼渭滨。李世民亲率大军迎击，大破之，斩首万余级，追奔逐北至陇坻而还。
义宁元年十二月，李世民再拜右元帅，统兵十万攻东都洛阳。然洛阳城坚，隋军固守，久攻不克，遂引军而还。将退之际，李世民谓左右曰："敌见我退，必来追袭。"乃设三伏于三王陵以待之。果然，隋将段达率万余骑追来，伏兵齐发，段达大败。遂于宜阳、新安置熊、谷二州，留兵戍守而还。旋改封赵国公。
义宁二年五月，隋恭帝杨侑禅位于李渊。大唐立国，改元武德。李世民以开国元勋，拜尚书令、右武侯大将军，进封秦王，加授雍州牧。是年，他年仅二十岁。
武德元年（公元618年）七月，割据陇右的薛举率领大军悍然入侵泾州，一路烧杀劫掠，兵锋直指关中，局势骤然紧张。唐高祖李渊当即任命秦王李世民为统帅，调集关中各路大军前往讨伐。彼时薛举军队久居西北，士卒骁勇善战，加之准备充分，两军交锋之后，唐军遭遇失利，战事进展不顺，李世民无奈之下只得率领大军暂退，收拢残部，伺机再战。
同年九月，战局迎来转机，薛举在军中骤然病逝，其子薛仁杲承袭父位，继续统领薛氏大军。薛仁杲勇猛有余却生性残暴，不得军心，李渊再度任命李世民为元帅，统领大军征讨薛仁杲。大军开赴至折墌城一带，与薛仁杲主力部队正面相遇，双方当即摆开阵势，各自挖深沟、筑高垒，构筑坚固的防御工事，展开了长达六十余天的对峙。
当时薛仁杲麾下拥有十余万大军，兵力雄厚，士卒气势强盛，屡屡派人到唐军阵前叫阵挑战，试图逼迫唐军出战。李世民深知敌军锐气正盛，果断下令全军坚守不出，任凭敌军如何挑衅，始终按兵不动，以此消磨敌军的锐气，耗尽敌军的粮草。长时间的对峙之下，薛军粮草逐渐消耗殆尽，军心开始动摇，薛军将领牟君才、梁胡郎眼见大势将去，先后率领部下投奔唐军。
看着敌军士气低落、军心涣散，李世民知晓决战时机已到，召集麾下诸位将领，沉着分析道：“敌军锐气已然丧失，士气衰退殆尽，如今正是我军一举攻取敌军的绝佳时机。”商议既定，李世民率先派遣将军庞玉率领一支军队，在浅水原南部扎下营阵，故意示弱以引诱敌军出击。薛军大将宗罗睺果然中计，当即集中全部主力军队，向庞玉所部发起猛烈进攻。庞玉率领部下奋力抵抗，奈何敌军兵力占优，攻势愈发猛烈，唐军渐渐不支，阵营险些被敌军攻破，战况一度岌岌可危。
就在庞玉所部陷入苦战之际，李世民亲自率领主力大军，出其不意地从浅水原北部突袭敌后，对薛军形成合围之势。宗罗睺在阵前远远望见唐军主力突然出现，大惊失色，急忙下令军队调转方向，回头抵御唐军的突袭。李世民身先士卒，亲自率领数十名精锐骑兵，冲锋陷阵，径直攻入敌军阵营核心。唐军骑兵势如破竹，与前方庞玉所部里外配合、前后夹击，全军将士齐心协力，奋勇杀敌。薛军腹背受敌，瞬间溃不成军，宗罗睺的部队全线溃败，唐军斩杀敌军数千人，敌军士卒慌不择路，掉入山涧山谷之中摔死、溺死的不计其数，尸横遍野，血流成河。
战役大胜之后，李世民丝毫没有给敌军喘息之机，当即率领二十余名轻骑兵，一路马不停蹄，急速追赶溃败的敌军，直奔薛仁杲驻守的折墌城城下。薛仁杲看着唐军骑兵疾驰而来，心中惊惧不已，急忙下令军队紧闭城门，环城固守，企图凭借城池负隅顽抗。夜幕降临之时，唐军主力大军陆续赶至折墌城，迅速将城池四面合围，层层围困，断其外援与粮草，让薛仁杲陷入绝境。次日清晨，薛仁杲眼见军心涣散、突围无望，只得亲自打开城门，向李世民献城投降。此次战役，唐军大获全胜，李世民一举俘虏薛仁杲麾下精兵一万余人，男女百姓五万余口，彻底平定陇右之地。
战事结束后，唐军诸位将领纷纷前来向李世民祝贺，席间有人趁机提出心中疑惑，恭敬问道：“起初大王在野外战场大破敌军，彼时薛仁杲依旧占据着坚固的折墌城，我军没有大型攻城器具，大王仅率领轻骑兵辗转追击，不等步兵主力赶到，就直接兵临城下，我们众人都担忧无法攻克城池，可最终却顺利拿下折墌，这究竟是什么缘故？”
李世民闻言淡然一笑，向众将细细剖析其中谋略：“我这是采用权宜之计，步步紧逼，让敌军来不及施展任何应对计谋，故而能出奇制胜。宗罗睺常年领兵作战，以往多有胜绩，再加上长时间养精蓄锐，锐气极盛，见我军坚守不出，便心生轻视之意。如今他们见我军主动出战，便欣喜不已，调动全部军队前来迎战，即便我军击溃其主力，真正歼灭擒获的敌军也并不算多。倘若不乘胜急速追击，让溃败的敌军撤回折墌城，薛仁杲将其收拢安抚，重新整顿，那之后再想取胜就难如登天了。再者，薛军士卒大多是陇西人，战败之后仓皇逃散，根本来不及回头收拢，多数人直接逃往陇右之外，折墌城内部自然变得空虚，我大军紧随其后压上，薛仁杲与城中守军心生恐惧，才会选择投降。这都是我早已定下的作战计划，诸位难道没有看出来吗？”众将听后恍然大悟，纷纷由衷赞叹道：“大王的谋略，绝非普通人所能企及的！”