中國歷史上的大多數皇帝都是從北方起家的，朱元璋卻是一個例外。他最初在南京稱王，從這裡開始逐漸收服了整個中國。所以朱元璋當上皇帝以後，就把他發跡的地方南京定為首都。其實在當時的情況下把南京作為京城是不太適合的，因為蒙古的殘餘勢力退出中原後仍舊保留了很強大的實力，而且就在北方邊境上虎視眈眈，隨時都準備捲土重來。南京卻太靠南，與北方邊界相隔千里，一旦有戰事發生，住在這裡的皇帝無論是想獲知戰場的情況還是釋出命令都不可能及時傳達，戰爭時期貽誤了戰機就會造成戰爭的失敗。所以朱元璋做這個決定的時候也是很矛盾的，總是拿不定主意。最初他把南京定為臨時都城，比較靠北的開封定為陪都，他總是在這兩個城市之間不停奔走。後來他又想把他的老家鳳陽建成首都，可是不久又放棄了。他還想把首都遷到西安去。這樣反反覆覆的折騰了好多年，直到他的皇位已坐了十幾年的時候，他才最終下定了決心，正式確定南京為首都。

燕王朱棣奪得了皇位以後，就完全沒有這種種考慮。他直接下令開始修建北京城，建成之後就馬上遷都到那裡。至於他要把北京定為首都的理由其實很簡單，因為北京是他還在當王子的時候的封地，從他18歲被封到這裡作了燕王，許多年來他都一直住在這裡，這裡的一切他都熟知，這裡已經成為他的根。況且，朱棣的皇位是從自己的侄兒手中奪過來的，南京正是建文帝從小生長的地方，朱棣卻正好相反他的一切權力的基礎都來源於北方，對南京的一切他都十分陌生，所以他不只是不喜歡南京，而且更需要一個能夠保證他的權力固若金湯的首都，北京當然是他的首選。當然也還有一些其他原因。南京也並不是什麼都不好，它位於長江下游，是當時全國的經濟中心，在經濟方面比任何地方都具有壓倒性的優勢。但是它處在平原地區，遠離北方和西部邊陲，朱棣認為那裡太容易受到攻擊，而沒有任何可以藉以屏障的東西。再有就是出於政治和軍事的原因，北京的地理位置優於其他一切地方，它既可以成為對付北方敵對勢力入侵的堡壘，同時也可以作為皇帝在北方進行擴張性活動的最佳根據地。綜合了以上種種理由，永樂皇帝幾乎是沒有任何疑惑的就作了遷都的決定。

但是，“遷都”說起來只是再簡單不過的兩個字，實際上要改造北京城卻是一個非常艱鉅的任務。元代的一些城牆和宮殿雖然仍然存在，但是城市的總體格局卻一定要改。初登帝位的永樂皇帝心中正充滿著雄心壯志，當然要建設一個能夠匹配他這位雄才大略的皇帝的都城。所以一切新工程的設計和施工都必須滿足皇帝的要求。與南京城正好相反，北京作為一個政治性或軍事性的城市當然是上上之選，但它卻從來不是一個好的經濟基地，北京並沒有足夠的物質資料來供應如此浩大的工程，必須依靠從東南各省用船隻運送大量糧食和其他物資供應。這種運輸的工作是日後國家的命脈，當然不能交給一般人去負責，所以軍隊也必須改革，擔負起這個重責大任。政府的機構也需要作出變動。南京是開國皇帝選定的首都，當然也不能廢棄，原有的一切機構設定都要保留，北京則需要重新建立起一套與之相同的政府班子，北京附近地區也要因為首都的變更而隨著作出變動。凡此種種，都是複雜而困難的工作，遷都無疑對明王朝具有極為深遠的意義。

從永樂皇帝登基的1402年開始，北京新都的建設已經開始了。一直到1417年，大部分的宮殿才算竣工完成。以後陸陸續續的又有工程完工。1420年10月28日，北京正式被確定為國家的主要都城，而南京則降為留都。隨後的三個月中，政府機構也被徹底改組。

新的都城有了，作為一個龐大帝國的首都，當然不能只有政府機構而沒有多少居民。早在1404年，永樂皇帝就下命令遷當時以經商而富甲天下的山西九個府的一萬戶到北京居住，以求增加未來首都地區的人口數量，並且還可以同時帶動經濟的繁榮。永樂皇帝還時常減免京畿地區的賦稅，設法使當地的人民富裕起來。對建設新都來說最重要其實並不是城市釣建設，而是同時進行的大運河的修復工作。沒有大運河這條生命補給線，要把北京建成首都無疑是紙上談兵。北京城的建設速度其實在開始幾年進度很慢。一直到1415年大運河主體工程完成以後，物資的運送頓時快了很多，從盛產糧食的長江下游運送糧食到北方更加迅速了。從這時起，新都的經濟狀況才有了極大的好轉，工程建設的速度也快了起來，城市的主體工程在兩三年中迅速的完成了。這讓永樂皇帝十分高興，重獎了當時負責建設的官員。

從1420年到1441年是北京作為主要首都的一個過渡階段。1441年以後，作為留都的南京大大喪失了它的政治重要性，大批的宮殿和宗廟從此都被廢棄了。雖然它的主要政府機構設定和行政職能都保持不變，但都只限於象徵性的意義了。從此時起，北京已經成為國家實際行政中惟一的首都