突厥退兵，李世民也收军回朝。此次面对突厥数十万大军大举来犯，李世民不费一兵一卒，全靠计谋退敌，军中威望越发高涨。
铁纲靖向李世民道出了心中担忧，道：“秦王，你此次退敌后，威望再上一个台阶，只怕圣上和太子对你猜忌越发厉害，料想他们会不择手段打击你，甚至取你性命！”
李世民傲然道：“想取本王的命，没那么容易！”
铁纲靖道：“还是小心为上，我们应该尽早发动‘玄武门之变’，先发制人。”
李世民摇摇头，道：“此事不可心急，我自有主张。”
过了几日，突厥遣阿史那思摩入朝觐见，李渊热情招待，并引起到御榻，慰劳再三，还封他为和顺王。
阿史那思摩拜谢，逗留几日要回去复命，李渊便诏令左仆射裴寂一起至突厥答聘，准许突厥互市，裴寂代表李唐与突厥修好后便回朝复命。
可是那反复无常的突厥可汗，八月才与唐朝修好，到九月底即派兵入寇绥州，好在出击的将士数量不多，被镇守绥州的都督击退。
此后，颉利可汗是彻底展示了其反复无常的性格，一会派兵侵扰唐朝边境，一会又派使者前来讲和，请求互市。
突厥如此反反复复，把李渊气得就差吐血。当初南北平定后，他以为天下大定，不需要那么士兵，于是罢十二军，遣返他们回去农耕。可如今面对突厥频繁入寇，李渊下诏重置十二军，简练士马，商议大举进攻突厥。
如此折腾下来，已是武德八年六月。这日，边境传来颉利可汗亲率大军入寇灵州的消息，李渊不觉动怒，对侍臣道：“突厥狡诈，又贪婪无厌，朕将御驾亲征，征讨突厥。往时通使突厥，本朝以国礼相待，所通书信皆用国书，从今日起对突厥不再用国书，全部用诏敕！”
一面命人草拟诏敕，质问突厥何故屡屡侵扰唐朝边境，一面又命右卫大将军张瑾为行军总管，中书侍郎温彦博为行军长史，抵御突厥。
颉利可汗一见来信由国书变成了诏敕，如何忍受得了？想当初李渊晋阳起兵之时，那态度相当于是向始毕可汗俯首称臣，后来李渊称帝后，但与突厥通使，皆用国书，语气也是毕恭毕敬。现在骤然由国书变为下行文诏敕，一向骄矜自大的颉利可汗自是暴怒不已。
当即发兵分军入寇灵州、相州、潞州、并州、沁州、韩州、朔州等州，霎时间边境的紧急军情像雪片一样不断飞往长安，一个个都是告急求救援。其中代州都督与突厥战于新城，失利而回。
李渊这下心慌了，一时的冲动惹来边境各州军情危急，急忙命秦王李世民出屯蒲州防备突厥，又下诏把在南方的安州大都督李靖调到边境，出屯潞州道。此外，命行军总管任瑰屯太行。李世民和李靖是唐朝最能打战的两位战神，加上任瑰的军事能力也不弱，三人防御突厥，李渊心中才算是稍稍放下心。
可是李靖才刚到潞州，却见张瑾只身前来投奔，一问之下，原来颉利可汗亲自率领数十余万大军大肆侵掠朔州，张瑾和温彦博率军前来救援，与突厥战于太谷，结果全军覆没，只有张瑾逃脱，行军长史温彦博被突厥掳去。
李靖听张瑾讲述敌情后，见突厥气焰甚高，急忙行文至李世民和任瑰处，与他们约好三路齐进，合力夹攻颉利可汗。
李世民正打算率军出发，忽然颉利可汗派出使者前来请和。原来颉利见李世民和李靖一起前来征讨他，李世民的厉害他已见识过了，又打听到李靖用兵神鬼难测，心想与他们战斗未必讨得到好处，便派人请和。