兩晉南北朝時期，皇帝為了防止地方刺史擁兵自重，常常以宗室親王出任都督刺史，妄圖藉助血緣關係，牢牢控制地方，消除異姓刺史作亂的隱患。實踐證明，這是製造內戰根源加速王朝滅亡的催命符。每當新君嗣位，他總是對手握重兵出鎮地方的皇室成員產生疑慮，進而削其兵權，甚至取其性命。而出鎮地方的諸王也不甘心坐以待斃，束手就擒，往往舉兵相迎，彼此殺得天昏地暗，導致狼煙四起，天下大亂。這種同室操戈、骨肉相殘的歷史慘劇可謂史不絕書，此時為最。西晉時期的“八王之亂”就是司馬家族的一場內讓。

劉宋時期，孝武帝繼位後，即對他的叔父荊州刺史劉義宣和他的弟弟南充州刺史劉誕虎視耽耽，處心積慮，伺機下手除掉他們，以致導致了兩次兵變。當時的民謠唱道：“遙望建康城，小江逆流縈，前見子殺父，後見弟殺兄。”就是對當時政治場景的寫照。州以下設郡，郡設太守，軍民兼理，既有行政權，也有領兵權，這種建制是與當時混亂的局勢相對應的。一且出現戰亂，太守可以統兵作戰，上馬迎敵。郡下設縣，縣不論疆域大小，長官一律稱縣令。縣以下的基層組織與秦漢時期相同。

各郡縣的疆域比秦漢時期要小得多。魏晉南北朝時期，還有幾項特殊的地方制度，一是遙領制，即在尚未歸屬本國行政版圖的別國土地上，設定州郡，命官遙領。如曹魏時期就任命黃權為益州刺史，而此時的益州尚在蜀國控制下。兩晉南北朝時期，由於政權並立，征戰連綿，各國疆域時常發生變動，這樣的遙領州郡就更多，以示不忘故土，立志收復失地。二是設立僑州、僑郡、僑縣，這是東晉時期為南遷的北方人所特設的。東晉建立後，不少北方的世族大地主紛紛南渡，表示對東晉政權的擁護。

同時北方陷人戰亂，大批百姓為躲避戰火，紛紛來到相對安全的江南地區。東晉政權為了安置這些難民，同時避免他們與南方人發生矛盾，設立了這樣的州、郡、縣，進行安置。南遷的人不人當地戶籍，不服搖役，不納賦稅，全部另行安置在僑州、僑郡、僑縣裡，由南渡的北方世族出任地方長官，進行管理。三是在當地少數民族地區開始設定了一些郡縣，如宋齊時期在邊境地區設定了“右郡、左縣、狸縣”，反映了民族交融步伐的加快。

魏晉南北朝時期是民族大融合的時期，由於大批難民南渡，其中有大批北方世家大族，如王氏、謝氏等，他們在北方失去了特權，到南方後，依然享受特權。他們的子弟需要官做，為了安置這批大家世族，歷代工朝大增州郡，增設官位，為他們提供做官的機會。據統計，東漢時期全國僅有13個州，到三國兩晉時期就增加到21個州，到南北朝初期又達到60多個州，到末期竟然達到253個州。

以陳為例，政治版圖僅限於長江中下游以南的地區，戶口不過60萬，而設立的州即達到42個。郡一級的機構也增加很快，東漢時期有郡105個，西晉時期達到173個，到南北朝時期，南北合計已多達617個。官多地狹，僧多粥少，以致“一郡分為四五，一縣割成兩三”，有的兩郡共管一縣，有的郡下竟無一縣可管，只是一個空架子，有的州郡長官沒有辦公處所，只好借住民房。甚至有的州、郡、縣各級衙門合住在一個村莊裡，從而出現“十羊九牧”的現象，也就不足為奇了。