我國現行的地方行政制度，以省級單位為一級行政區。這一制度源自金元明清以來的行省制度。
我們現在對中央管省、省管縣市已經習以為常，認為這只不過是近世以來應社會發展需要才自然而然地生髮出來的制度。事實上，富有智慧的中國古人，早在魏晉南北朝時代就已經探索出一種相近的行政區劃制度：行台制度。
這種制度的內核與現在的省極其相似，只不過因為理念太過超前，最終又湮沒於歷史長河之中。
一、精細化行政管理對秦漢體制的挑戰
戰國末期各國普遍推行郡縣制以來，封建國家的地方行政區劃分，一直是郡（國）、縣這樣的體制。秦朝時天下三十六郡，漢亦相當。
秦朝關中三郡
這種行政體制下，中央直接面對的地方一級行政區非常多，管理上很難實現多麼精細。因而秦漢時代地方行政區的治理模式一直有著相當大的自治成分。地方上的郡守、縣令具有非常大的權威，郡守職級甚至可以達到二千石，和宰相秩級相當。這是加重地方官員身份，以實行區域化自治管理的政治安排。
到了東漢中後期，監察性質的刺史部逐步演變為固定的州一級單位，國家行政體制變為州郡縣三級模式，州一級單位隱隱有了後世省級單位的影子，但是持續了不長時間，便在漢末三國時期被迅速消解，州的數量開始泛濫增多。
為什麼會有這樣的變化呢？
一是隨著時代的進步，中央對地方控制的領域越來越廣，越來越深入，監察、司法、官員任免、兵員徵調、徭役賦稅乃至於文教事業，中央管理的面很大，那種粗疏式的管理模式不再適用。因而呼喚一種非常健全的、能夠幫助中央分擔管理職能的高級行政機構。
二是統一思想的深入，對地方自治形成了壓制。秦漢郡縣體制之下，郡縣的自主權非常大，並不需要事事仰承詔旨。西漢景帝時諸侯國生亂，郡國的主官可以自主地發兵鎮壓。這其實時先秦時代天子與諸侯封建天下思想的遺存。
過多地放權給地方，容易造成叛亂。故而封建王朝需要創造一種新的中央管理機構，在地方行使強有力的鎮撫管理職能。
三是豪族勢力的出現，對中央權威構成嚴重挑戰。豪強勢力在東漢開始形成，當然有人說西漢的遊俠也是豪強勢力，從概念上說可以說也是一個類別，但是成規模的、有家族傳承的豪強、世家，正是在東漢才形成規模。像汝南袁世、弘農楊氏、陳郡謝氏、太康陳氏等等，都開始形成根深蒂固的地方勢力，他們把持了地方政治資源，郡縣級單位基本上控制不了他們。這更需要中央派出有力機構以翦抑豪強勢力。
二、魏晉行台的萌芽與壯大
基於以上這些形勢，三國兩晉時代中央開始逐步出現了行台。
公認最早的行台出現於魏高貴鄉公曹髦時代。據《通典》卷22《行台省》記載：
「行台省，魏晉有之。昔魏末，晉文帝討諸葛誕，散騎常侍裴秀、尚書僕射陳泰、黃門侍郎鍾會等以行台從。」
這個行台，本意是行尚書台，也就是中樞機關尚書台的機動派出分支。司馬昭到淮南鎮壓諸葛誕叛亂，帶領部分中央尚書台官員，組成一個前線指揮機關，行使的是中央職能，其權力所統，大概包括淮南一帶郡縣的所有軍政事物。
三國對峙全圖
從中我們可以看出幾個類似於後世的特點：
其一，權威高，級別高，可以統攝所有州郡縣。
其二，具有方向性，統管一個大區域內的事務。
但更多的是不同點，曹魏的行台帶有濃郁的軍事性，其重點職能是統管淮南戰區的戰爭事務，軍事任務結束之後立即罷廢。這也是後來相當一個時期行台的突出特點。
西晉時也設置過不少行台，但這種行台更多是皇權播難、中樞混亂情況下，中央尚書台迫不得已設置的臨時機構。例如永嘉之亂時，東海王司馬越、幽州刺史王浚乃至琅琊王司馬睿都相繼擅自組建代表中央的行台，行使過一個方向的統治權，但其真正用意是另立中央。
東晉庾亮主政時期，因為處理流民帥政策失當，激發了蘇峻、祖約的叛亂，建康台城被叛軍攻破，庾亮出奔後聯合溫嶠、陶侃等人聯兵平叛。
引發蘇祖之亂的庾亮
當時東晉成帝已被叛軍俘獲，中樞政權被瓦解，溫嶠提議建立了行台，用以指揮諸州聯軍。這個行台的軍事意義更加濃厚，是故後來蘇峻之亂平定後也立即罷廢。
總體上看，魏晉時期出現的行台，雖然具有非常典型的臨時機構特徵，並且大多數情況下是用于軍事指揮的，但這個制度的出現，對中央下屬行政區劃的設置，作出了一種新的嘗試，它並沒有回到東漢十三州的統治模式上，而是有事設立、無事罷廢，其目的只是解決一個方向的軍政問題。
這體現了國家行政什麼樣的趨勢呢？
一方面，傳統的中央定原則、地方抓自治的模式已經越來越難以維持，魏晉以來地方精細化管理的趨勢更為突出，中央不敢再進行粗放式管理，而必須在制度上進行更改補益，才能適應越來越重的統治任務。
另一方面，魏晉政治傳統仍然籠罩在秦漢舊的思維模式中，中央仍然賦予地方很大自治權力，沒有真正走出窠臼，探索適應時代特點的政治制度。
三、北朝行台的擴大與固化
五胡十六國時期，北方諸國林立，對地方行政制度又帶來了新的形勢變化。
其一，行政區域逐漸破碎化。除了後趙、前秦曾短暫統一北方，其他胡族小國均處於多家對峙狀態。關中、河東、河北、中原、山東乃至淮北，時常被對峙的各國分而據之，原有的相對穩固的行政區域被分割，這也意味著原有的行政體制無法控制轄區。
以河南為例，後趙、前秦時代，河南中北部被北方政權控制，南部沿淮則屬於東晉南朝地盤。而當燕、秦、晉三家對峙時，河南又被一分為三。各個國家不得不把各自控制的河南區域，併入其他地理單元進行管轄。比如河南北部，有時被劃入兗州（傳統意義上屬於山東地理單元），有時被劃入司州（屬於河洛地理單元），有時甚至還被劃入鄴城的勢力範圍（屬於河北地理單元）。
破碎化的行政單元如何進行統合，這就要求必須有強力行政機構，依靠既往的州郡無法行使這樣的職能。十六國時期便應運而生，沿襲魏晉制度設置了行台。
東晉十六國形勢
此時的行台賦予了新的行政意義。比如後趙石勒在洛陽設置的行台，其意義在於代表中央加強對河洛地區的管轄，防範晉室殘餘勢力反撲洛陽一帶。
前燕進入河北後，其原都龍城統治勢力減弱，慕容俊便在龍城設立留守行台，以玄莬郡守為留守行台尚書，總管後留事務。後燕時期，慕容垂在薊城設立了行台，主要目的也是加強幽州一帶防務，因為北部的鮮卑拓跋部已經興起，逐漸蠶食了代北和冀並北部一帶。
我們可以鮮明地感覺到，十六國時的行台已經變了味兒，不再是軍事統御機關，而是代表中央鎮守一個重要方向的行政機關。這是行台制度史上的一個重要質的變化。
即使北魏完成對北方的穩定統一後，北魏政府仍然不得不倚靠行台制度來加強對地方的控制。北魏道武帝先後在中山、鄴城設置了行台。據《魏書·道武帝紀》載，置行台於鄴，原因是「帝至鄴，巡登台榭，遍覽宮城，將有定都之意」，也就是說，派出行台的目的，是要把後燕的舊都進行整治，並對後燕遺民和殘餘政治勢力進行彈壓鎮懾。
對中山則另有用意，「帝慮還後山東有變，乃置行台於中山，詔左丞相、尚書令、衛王儀鎮中山」，道武帝擔心後燕人在河北兩度立國，自己班師回平城後恐怕會有人發動叛亂，因此才派出一個由宗室、重臣領銜的行台。
中山行台和鄴城行台，管轄的範圍大概就是後燕的故境，這兩個行台，實際上就是兩個省級單位，把剛剛吞併的敵國國土進行劃區管治。從效果上看，道武帝這個措施是相當不錯的，河北在短時間內迅速納入北魏的管理體系，並成為北魏向中原進軍的穩固後方基地。二十多年後劉裕北伐經過河北南部，此地的軍民都堅決擁護北魏的統治，一致對抗南朝軍隊。
北魏中期行台制度一度廢除。但到了6世紀初，隨著各地起義逐漸增多，以及梁朝不斷北侵，以及地方行政區進一步析分化，北魏中央無法有效統馭各地，不得不再次恢復行台制度。
六鎮起義主要爆發於代北、河北與隴右，南梁的侵略方向主要集中在淮北和河南南部，因而北魏的行台也主要設置在這幾個方向，據不完全統計，北魏自起義爆發至滅亡，共派出過142次行台。最終化下來的行台有8個行台區，分別是關西行台，并州北道行台，晉州行台，冀相定行台，荊州行台，豫州行台，徐州行台，梁益山南行台。
其中關西行台的主要功能是綏撫關中和隴右，以及與宿勤明達、万俟丑奴義軍作戰，並、晉兩個行台主要是管理河東，當然也擔負一定安撫流民的職能。冀相定行台處於六鎮大起義的核心區，荊、豫、徐、梁益4個行台，則是統管南方諸州郡的機構，兼理對梁戰爭。
這樣的區域劃分，與現在的省際區域，其實已經很相近了。可以說，行台制度此時已經進化到相當程度，已經能為中央分擔很大管理職能。北魏中央對行台官員的作用，也逐漸由中央尚書派出，轉變為地方州郡主官升任。這是行台制度地方化、固定化的一個主要標誌。
當然，行台在演進過程中有這樣那樣的特點，與後世行省不盡相同。比如說行台長官品級不固定，有時其職級尚不如地方州刺史的官位高，但行台因為代表皇帝權威，可以以較低級別的官員，統管高級別的地方官員。這是後世行省制度的淵源，也是增加地方一級行政區的要旨所在。
北魏分裂為東魏西魏後，東魏北齊全盤繼承北魏政治制度，行台區更加成熟和固化，完成了臨時派出機構向地方行政區機構的轉化。東魏北齊既有因戰事臨時設置的軍事行台，也有轄區穩定的行台。
其中較為穩定的大致有9個，分別是晉陽行台（駐節晉陽，今山西太原）、幽州東北道行台（薊城，今北京）、朔州北道行台（馬邑，今山西朔州）、山東（河北）行台（中山，今河北定州）、晉州行台（平陽，今山西臨汾）、河陽道（河南道）行台（洛陽）、豫州行台（懸瓠，今河南汝南）、東南道行台（彭城，今江蘇徐州）、揚州道（壽陽道）行台（壽陽，今安徽壽縣）。
可以看出，除了晉陽、朔州、晉州三個行台軍事色彩相對濃重一些，其他的都是各大地理區域的行政中心，相當於東魏北齊的一級行政區，擔負著管理州一級單位的職能。
隋朝統一後，一度因為戰事較多，也設置了行台省。隋開皇年間，為了伐陳，共設置了 5 處行台省，即河北道、河南道、西南道、山南道、淮南道行台省。但戰事平定後就立即罷去了行台。
唐武德年間，共建立有6處行台省，有東南道、顯州道、益州道、陝東道、河北道、襄州道行台省。但是隨著唐朝的完全統一，行台又遭到了全面罷廢。
後來唐朝設置的道、宋朝的路，都有一定省級單位建置的用意，但其職權範圍和官員穩定度都遠不如行台，究其原因，大一統王朝基層行政結構相當穩固，統治者不願假權於人，對行台這種較大區域的行政長官懷有一種莫名的恐懼。因而道、路等單位，都被朝廷極度分化牽制，使其無法專掌一方之政，只是在管理層級上為中央分擔一定壓力。
後來到了金朝，遠紹北朝的行台制度，設置了一些行省，元朝在金朝行省制度的基礎上結合本民族的特點建立新一級地方最高行政機構—行省，從而開啟了近代中國省制長達七百年的歷史，影響到明清甚至今天我國的地方行政體制。