張騫出使西域迴歸之後，漢朝發現了西域這個廣闊的地方，對中亞、西亞、南亞各國也都有了瞭解。之後，漢朝跟西域各國有了頻繁的外交、經濟聯絡。

不過，此時西域三十六國都是獨立的。西域各國歸順漢朝，是在李廣利徵大宛之後。

大宛國位於西域的最西邊，是三十六國中離漢朝最遠的。大宛盛產好馬，最著名的是汗血寶馬。漢武帝是好馬之人，於是派人帶了財寶來買馬。大宛並不願意賣自己的國寶，他們與漢使發生糾紛。最後，大宛人居然殺死了漢使，還搶走了財物。

漢武帝聽說漢使被殺，非常憤怒。於是他派遣自己的大舅子李廣利（李夫人之兄）遠征大宛。這可真是一次前無古人的遠征。霍去病徵匈奴，曾經在狼居胥山祭天。而大宛比狼居胥山還遠的多。

太初元年（前104年），李廣利帶領數萬大軍遠征大宛。他們要穿越整個西域，行程近萬里。這一路上都是荒漠、戈壁灘，漢軍後勤補給完全跟不上。漢軍在路途中，也找不到糧食。等到了大宛國邊境時，漢軍只剩下數千人了，其他人都餓死渴死在了路上，剩下的人也都是又餓又疲憊。李廣利率軍攻打大宛國的鬱成城，結果損失慘重。

一座邊境城市都拿不下，更何況整個大宛呢？李廣利於是決定撤軍。漢軍再次穿越西域，回到了敦煌。這一來一回，兩年時間過去了。漢武帝聽說李廣利竟私自撤軍，很是憤怒。他下令關閉玉門關，撤入關內者格殺勿論。

此時，漢軍與匈奴的戰事也遭遇了失利，損失了兩萬人。朝臣多主張放棄攻打大宛，專心對付匈奴。漢武帝覺得，如果小小的大宛都拿不下，那西域三十六國，以及中亞、西亞各國都會輕視漢朝。於是他力排眾議，決定傾全國之力，打下大宛。

漢武帝又徵發了6萬多人，增援李廣利。為了給大軍運送糧草，漢武帝在全國範圍內大發民夫，並徵集了十多萬頭牲畜。同時，漢武帝又調集了18萬軍隊保護後勤線、防備匈奴襲擊。

這第二次遠征，漢朝幾十萬人馬來往於西域大道。各國都被震懾，紛紛主動為漢軍提供糧食。

李廣利大軍順利到達大宛，大宛軍隊前來迎戰。漢軍弓弩手萬箭齊發，大宛損失慘重，於是退守都城。漢軍包圍了大宛都城，斷絕了水源，並攻破了外城。

大宛都城被圍攻40多天，水源斷絕，城內處境艱難。貴族們於是殺死了國王，並派人帶著國王的人頭，請求與李廣利議和。

此時，西方大國康居的援軍已到。李廣利怕夜長夢多，就同意了議和。漢軍挑選了3000多匹汗血寶馬，並立了一名親漢貴族為大宛王。之後，李廣利與大宛簽訂了盟約，漢朝退兵。

西域各國聽聞漢軍已攻破大宛，更是震驚，紛紛派遣子弟入長安為人質。之後，漢朝對西域的控制進一步加深。漢朝開始在西域各地設定據點，屯田駐軍。至漢宣帝時，漢朝在西域設定都護，監護西域各國。西域160萬平方公里土地，正式納入漢朝版圖。