天寶十四年（公元755年），十一月，安史之亂爆發。唐玄宗離開長安，逃往四川。天寶十五年（公元756年）七月，李亨在靈武即位，即唐肅宗。自即位後，肅宗就一直謀劃奪回西京長安和東京洛陽。郭子儀認為，回紇士兵能征善戰。他就向肅宗建議，可以大量徵集回紇士兵參與平叛。肅宗求勝心切，採納了郭子儀的意見。十二日，廣平王李豫被任命為大元帥，統領各藩鎮士兵以及回紇、西域各國兵馬共計十五萬人，號稱二十萬。準備從鳳翔出發，前去收復長安和洛陽 。二十五日，各路平叛大軍同時出發。二十七日，大軍到達長安城西的香積寺。
各路人馬在香積寺北邊的灃水東岸，安營紮寨，各營連線成陣。前軍為李嗣業，中軍是郭子儀，後軍為王思禮。十萬叛軍在大營的北面擺開列陣。叛軍將領李歸仁率先出陣挑戰。李嗣業帶領官軍出戰追擊。官軍剛剛逼近叛軍陣營，叛軍突然一起出擊。官軍措手不及，急忙後撤。叛軍乘勝追擊，官軍見敵軍來勢兇猛，驚慌失措，潰不成軍。叛軍趁機搶奪官軍丟棄的物資。就在這時，李嗣業說：“假如現在不奮勇抵抗的話，很快我們都會死於敵軍之手。”說完，李嗣業站在陣前，解開上衣，拿起長刀，大聲呼喊著奮力殺敵。刀鋒所到之處，人頭紛紛落地。從中午到傍晚，共殲敵六萬多人。叛軍死傷無數，剩餘的叛軍士兵逃回長安。
直至入夜，喧叫聲也沒有停止。僕固懷恩對廣平王李豫說：“看這情形，叛軍可能是要放棄長安。請元帥允許我帶領二百名騎兵追擊他們。我定能把安守忠、李歸仁等人抓回來。” 李豫說：“今天作戰很辛苦，將軍先休息吧！明天再商議這件事。僕固懷恩不肯，堅持請求出戰，一夜之內竟先後請戰四五次，廣平王終究還是沒有同意。天亮時，負責偵察計程車兵回到軍營，聲稱安守忠、李歸仁、張通儒和田乾真等叛軍將領都已經逃跑了。當初，肅宗由於急於收回兩京，為了能從回紇那裡借到兵馬，竟然與回紇約定：“收復京城之後，唐朝只要土和男子，金銀財務和女人都歸回紇所有。
大軍進城前，葉護要求大唐履行之前的承諾 。廣平王李豫站在葉護馬前，向他行禮，說：“我們才剛剛收復長安。假如立刻大肆搶掠的話，洛陽城內的老百姓就會轉而支援叛軍死守城池。到時候，洛陽攻打起來，會很困難。愚兄希望等收復洛陽後，再履行我們的約定。 葉護看到廣平王對自己行禮，非常吃驚，急忙跳下馬回禮。葉護跪在地上扶著李豫的腿，說：“就按您說的辦。兄長放心，我一定率軍為殿下打下洛陽。”隨即，他和僕固懷恩帶領回紇、西域的軍隊出城在城南駐紮下來。看到廣平王，長安城內的民眾紛紛流著眼淚下拜行禮，說：“廣平王是漢夷各族真正的主人！”肅宗知道這件事後，非常開心，說：“廣平王比朕強啊！” 隨後，廣平王李豫帶軍進入長安城。京城百姓都走出家門，夾道歡迎。李豫在長安，盡力慰問安撫民眾。二十九日，捷報傳到鳳翔，群臣紛紛進宮祝賀。肅宗喜極而泣，立即讓太監啖庭瑤前往四川，把這一好訊息告訴玄宗。
他又派左僕射裴冕先去長安，安撫百姓，併到宗廟祭奠告慰先祖 肅宗讓人騎快馬告訴李泌，自己要在長安召見他。李泌到長安後，拜見肅宗。肅宗對他說：“朕已經上表給太上皇，請他回京。朕打算把皇位還給太上皇，自己回東宮做太子。” 李泌說：“陛下，臣認為太上皇不會回長安。” 肅宗聽李泌這麼說，很驚訝，追問原因。李泌答道：“依照常理和現在的情況，太上皇不回來也是情理之中的事 。”肅宗問：“那朕該怎麼做呢？ 李泌說：“請陛下準備一份大臣們的賀表，內容就說自從馬嵬坡留下叛亂到今日收復京城，陛下無時無刻不在思念太上皇。所以，懇請他動身返回長安，以便陛下能在太上皇身邊盡孝。這樣應該就沒問題了。”
肅宗聽罷，讓李泌立即起草新的表書。肅宗讀完後，淚流滿面哭著說：“一開始，朕的確想把帝位還給太上皇。如今，聽完先生的席話，才明白自己之前的想法並不合適。肅宗立即派宦官拿著新的表書，出發前往四川。然後，肅宗讓李泌陪同自己一起喝酒，酒後，兩人還同榻而臥。 李泌對肅宗說：“如今，我已經報答了陛下當年的知遇之恩。臣打算重新去過隱士的生活，那是多麼快活自在的生活啊！” 肅宗問他：“這麼多年來，先生和朕一起共患難。如今終於到了可以享受的時候，先生為什麼要離我而去呢？” 李泌說：“有五條理由證明臣不能留下來。我希望陛下能答應讓我歸隱，讓我能保住性命。”肅宗問：“先生這話是什麼意思？” 李泌答道：“我和陛下相遇的時間太早。陛下對我任用太重。陛下寵愛我太深。我的功勞太高。我自身的事蹟太奇特。這就是我不能再留在陛下身邊的原因 。”
肅宗說：“這件事以後再說，先睡覺吧！ 李泌說：“現在，陛下和我睡在同一張床上，陛下都不答應我的請求。更何況以後在朝堂上呢！我還敢向陛下出請求嗎？陛下不讓我離開，其實是在殺我 。”肅宗說：“原來你對朕的疑心這麼重，朕怎麼可能會殺你呢？你難道把朕看做是越王勾踐了嗎！” 李泌答道：“我之所以要求離開朝堂，去歸隱，正是知道陛下不會殺我。真正要殺我的是剛才我說的那五個理由，不是陛下。過去，陛下對我那麼好，有些話，我還不敢完全說出來。何況現在天下時局已定，我怎麼還敢直言進諫呢！” 肅宗想了想，說：“你這麼說，是因為當初朕沒有采納你那個北伐的計劃嗎？” 李泌答道：“和那件事無關，我不敢說的是建寧王李的事 。”肅宗說：“李倓是朕喜歡的兒子。他英勇果敢，又立過大功，這些朕豈能不知？但是他後來被小人唆使，為了圖謀太子之位，竟然要害死他的哥哥。除掉他也是迫不得已，朕必須以國家為重。這些原因先生難道不知道嗎？” 李泌說：“那是有人要加害建寧王而說的謊言。建寧王聰明伶俐，為人正直友善，怎麼可能做這種事？以前，陛下打算讓建寧王擔任元帥，我則建議任用廣平王。如果建寧王真的有當太子的野心，他必定對我有很深的怨恨。但是，他卻認為我很忠心，對我非常友善，與我的關係也更加的親密。從此事上，陛下就應該能看出建寧王的想法 。”
肅宗聽了這番話，哭了起來，說：“先生說的對，既然事情已經過去了，就算了吧，我以後再也不想聽到這件事了。” 李泌說：“陛下，我說起這件事，不是提醒陛下以前犯下的錯誤，而是希望陛下將來處理政務時，能夠謹慎小微。天后武則天生了四個兒子。太子李弘是長子。當時，天后正計劃稱帝，因為厭惡李弘的聰明正直，就下毒，殺了他。接著，次子雍王李賢被立為太子。李賢因為李弘的死，整日驚恐不安。他便作了一首《黃臺瓜辭》，送給武則天，希望能使天后有所觸動。但是，天后對此置之不理。最後，李賢還是死在了巴州。《黃臺瓜辭》的全文是，‘種瓜黃臺下，瓜熟子離離。一摘使瓜好，再摘使瓜稀，三摘猶為可，四摘抱蔓歸！’我想提醒陛下，您現在已經摘了一次，希望從此沒有第二次！ 肅宗聞言，驚愕不已，說：“朕怎麼可能那樣做呢！你把這首詩寫下來，朕把它寫到條幅上。 李泌說：“陛下只要記在心中就好，何必非要把它留在表面上呢 ？“當初，建寧王李談因為多次向肅宗揭露李輔國、張良娣二人的罪行，最終被二人誣陷致死。李泌看到，廣平王立下戰功後，張良娣出於忌恨，正在暗中到處散播流言，詆譭廣平王李豫，所以李泌才說起此事，提醒肅宗。