然而，就在李靖剛剛辭職沒幾天，634年十一月，吐谷渾大舉進犯涼州。 之前吐谷渾就多次侵擾大唐邊境州郡，只不過一般規模不大，大唐君臣也沒太在意，多是申斥幾句了事。 不過，隨著吐谷渾不斷侵擾，634年六月，被激怒的唐太宗，也曾經派左骁衛大將軍段志玄率軍攻擊吐谷渾。但是，吐谷渾所處之地，草原、沙漠、山林混雜，地域遼闊，道路難行，吐谷渾這個民族又沒有修築城池的習慣，過著逐水草而居的遊牧生活，因而，唐朝大軍一到，吐谷渾可汗伏允見唐軍勢大，幹脆的率領整個部族百姓，遠遁離開。唐軍隨後一番追趕，沒什麽成果，勉強算是得勝而回。可是，沒等唐軍返回到關中地區，伏允已經帶著吐谷渾百姓又返回原居住地，該放牧放牧，該繼續侵擾大唐繼續侵擾。 對此，唐太宗也有些頭疼。 這次吐谷渾再度侵犯涼州，徹底激怒李世民，准備派大軍痛擊吐谷渾，將之徹底打服。 可是這仗並不好打，稍不留神就又會打成段志玄那樣。派誰爲主帥呢？思來想去，李世民還是感覺，別的將領雖然也不錯，但終究李靖更勝一籌。可如果讓李靖挂帥，李世民又擔心其年老力衰，腿腳有病，不能勝任。 別看李靖平日一副唯唯諾諾謹言慎行的做派，關鍵時刻，毫不猶豫，主動請命。李世民非常高興，任命李靖爲西海道行軍大總管，三軍主將，節度各軍，又任命兵部尚書侯君集爲積石道行軍總管、刑部尚書任城王李道宗爲鄯善道行軍總管、涼州都督李大亮爲且末道行軍總管、岷州都督李道彥爲赤水道行軍總管、利州刺史高甑生爲鹽澤道行軍總管，同時命令突厥、契苾等部族出兵協助唐軍，共同攻打吐谷渾。 635年四月，唐軍和吐谷渾兵馬交鋒。李道宗先是在庫山地區，小勝一場。吐谷渾可汗伏允見這次唐軍來勢更加凶悍，故技重施，放起一把大火燒毀大片草原，讓唐軍得不到戰馬的草料，然後帶著部族的將士百姓，熟門熟路的逃入沙漠。 眼見前面是茫茫大漠，自己一方人困馬乏，戰馬草料又不足，很多將士有了畏難情緒，建議主帥退軍。大將侯君集堅決反對退兵，認爲那樣是功虧一篑，建議乘勝追擊。李靖和侯君集想法相同，當即兵分兩路，自己率薛萬均、李大亮等人走北道，讓侯君集、李道宗等人率大軍走南道，約期彙合。 不久，李靖所部先鋒薛孤兒在曼頭山，大敗吐谷渾人馬並繳獲大量牲畜，正好補充唐軍已經不太充足的軍糧。隨即，李靖所部在牛心堆再次擊敗吐谷渾大軍。 吐谷渾人馬在前面逃跑，唐軍在後面追擊。在赤水源頭處，唐軍再次追上吐谷渾大軍。 遊牧民族基本上全民皆兵，彪悍敢戰，見唐軍苦追不舍，也拼命死戰。唐將薛萬均、薛萬徹兄弟二人率輕騎沖殺在前，不料被吐谷渾兵馬包圍，二人皆受傷落馬，只能徒步厮殺，二人身邊的騎兵也死傷慘重。危急時刻，契苾何力率數百兵馬殺到，一番力戰，救出薛氏兄弟，擊敗敵軍。 隨後，吐谷渾兵馬繼續敗逃，唐軍繼續追趕。李大亮所部在蜀渾山擊敗吐谷渾所部，生擒二十多名首領，執失思力又在居茹川擊敗吐谷渾所部，薛氏兄弟也在赤海擊敗吐谷渾天柱王所部。 就這樣一個逃一個追，李靖率唐軍過積石山河源，一直到達且末，橫貫吐谷渾領土，直抵其西部邊境之地。 這時，唐軍得知消息，伏允率殘部正在突倫川，准備逃往于阗避難。李靖派執失思力率領一千多兵馬，殺奔突倫川，派薛萬均隨後接應。一番艱苦跋涉，唐軍追上並擊敗伏允本部，殺掉伏允身邊最精銳的數千兵馬，繳獲二十多萬頭牛羊牲畜。伏允孤身逃走。 李靖一路連戰告捷的時候，侯君集、李道宗一路也克服重重艱險，行軍二千多裏，在烏海擊敗吐谷渾兵馬，隨後穿越星宿川，在柏海，與李靖所部大軍會師。 至此，唐軍基本上算消滅了吐谷渾的主力人馬，粗略的占據了吐谷渾大部疆域。當然，同北方的大草原一樣，這裏，同樣不太適合農耕民族居住，因而，大唐朝廷很難有效治理這裏，最好能扶立一個親唐的吐谷渾首領，代替大唐官吏，治理吐谷渾。 就在這時，伏允的嫡長子慕容順，不滿父親立別的兒子爲太子的行爲，趁機發動兵變，殺掉天柱王，自稱首領，舉國向大唐請降。 吐谷渾的建立者名爲慕容吐谷渾，是慕容鮮卑的一個分支，因而吐谷渾首領都姓慕容。 唐太宗李世民正在尋找治理吐谷渾的合適人選，見慕容順主動送上門來，順勢接納，加封其爲西平郡王、趉（jué）故呂烏甘豆可汗。同時，李世民考慮到慕容順威望不足，擔心他不能降服吐谷渾民衆，還特意讓李大亮率領數千精銳唐軍，爲其後援。 而那位吐谷渾原可汗伏允，在逃亡路上，身邊親信逐漸散盡，最後被僅剩的部下殺死。 至此，唐軍完成戰略目標，消滅了吐谷渾精銳，迫使其徹底臣服。 不過，事後論功行賞時，卻出現了一些不和諧的聲音。先是薛萬鈞爲了爭功，诋毀契苾何力，氣得契苾何力拔刀而起，差點和薛萬均拼命。李世民查明原委後，爲了避免胡漢將領分化，並沒有處罰薛萬均，不過卻重賞了契苾何力，任命契苾何力爲玄武門宿衛將領，又將宗室女子臨洮縣主嫁給契苾何力爲妻。 更嚴重的是，鹽澤道行軍總管高甑生，因爲延誤軍期，遭到主帥李靖的斥責和彈劾，懷恨在心，誣告李靖謀反。雖然李世民迅速派人查清原委，高甑生也因爲誣陷罪被流放邊遠地區，但本來就對李靖已經有了忌憚之心的李世民，對于李靖更加忌憚。畢竟李靖又滅一國，空穴來風未必無因啊。 爲了減弱君王的猜忌，之後的李靖，閉門謝客，除了妻子兒女之外，包括親戚，都不隨意見面，和朝中所有大臣及自己麾下舊將，更是基本上不再有任何私下的來往和聯系。 李靖的做法也讓李世民放下了心，君臣二人之間的裂痕並沒有繼續加深，一直相處的不錯。雖然之後的李靖，再沒有了領軍征戰沙場的機會，但至少得了善終，死後也備極哀榮。649年，李靖病勢垂危，此時的李世民也已經到了暮年，拖著沉重的病體前去探望李靖，拉著李靖的手，涕淚俱下。這年五月，李靖病逝，享年七十九歲。 李靖一生，著有《六軍鏡》、《衛公兵法》等多部兵書，可惜，多已失傳。流傳下來的《唐太宗李衛公問對》一書，記錄了唐太宗和李靖關于軍事問題的問答，分析透徹，論述精妙，對後世影響頗大，宋代被列爲“武經七書”之一。不過，史學界一直認爲此書爲後人假托李靖之名所著。