歷史沿革
西漢
漢武帝為加強中央集權統治，把全國重新劃分為十四州，設十四州刺史部。始設兗州刺史部，治所設在濮陽，轄山陽郡（轄瑕丘、橐縣等）、東郡、陳留郡、濟陽郡、泰山郡、東平郡六郡國。王莽時期認為漢代的“州名及界，多不應經”，把州名作了改動或合併，兗州未變。
東漢
建武十一年（35年）兗州治所在昌邑（今山東省巨野縣昌邑鎮），下轄陳留、東郡、任城郡、泰山、濟北郡、山陽（今兗州屬山陽郡，治所在巨野縣城區）、濟陽、東平八個郡國，大體範圍在今山東西部及河南東部。
三國
三國時，兗州區域屬魏。曹操領冀州牧後，為擴大勢力範圍，縮小其他州併入冀州，但兗州轄區未動，仍轄八個郡國。僅將漢時陳留改為陳留國，任城國改為任城郡。據《三國疆域志》載，兗州初治昌邑，後移治廩丘（今山東鄄城縣東）。
晉代
晉時，設兗州刺史部，轄濮陽國、東平國、濟北國、泰山郡、陳留郡、濟陽 郡、任城國、高平國（治昌邑，轄瑕丘、金鄉、巨野等）八郡國五十六縣。
晉武帝太康元年（280），西晉滅掉吳國，把全國劃分為十九個州部。永嘉年間設立二十一個州部。兗州均為其中之一，初治廩兵，後移治鄆城（今山東鄆城西北）。
晉惠帝末年（290），兗州全境淪沒，附屬後趙。
戰亂中的兗州黎民百姓，大量南遷，到東晉元帝時便在南方設定了僑州、僑郡、僑縣、僑鄉等，兗州為僑州之一，治所設在京口（今江蘇丹徒）。
晉明帝太寧年間（323—325）以郄鑒為兗州刺史，寄居廣陵（今江蘇江都縣東北）。
康帝建元初（343）寄治金城（今江蘇江寧北）。
穆帝永和（345—356）中僑治下邳，淮西公太和（366—371）中又移治山陰（今江蘇淮安），孝武帝太元（376—396）中還治廣陵，並割江淮地區為兗州轄境，領十四郡。
歷史上稱廣陵之兗州為南兗州。而稱北方鄆城同時存在的兗州為北兗州。北兗州轄東平、高平、濟陽、濟北、任城等郡。
南北朝
南朝劉宋初年，武帝劉裕平河南，又設兗州於滑台（今河南滑縣），時稱西兗州。
宋文帝元嘉十年（433）移治鄒山（今山東鄒城東南故邾城），又寄治彭城（今江蘇銅山縣），徒遷須昌（今山東東平縣西北50里）。
元嘉二十年（443）把兗州區域分屬徐州、冀州，其兗州舊地為魯郡代替。至元嘉三十年（453）六月復立兗州，治瑕丘（今兗州市），宋孝武帝孝建初年（454）治湖陸（今江蘇沛縣北），宋明帝秦始初（465）移治瑕丘。齊、梁時，又設北兗州於清江，設南兗州於廣陵。
兗州降北魏之後，僑治於淮陰，舊地兗州移治於滑台，後治瑕丘。時稱瑕丘之兗州為東兗州，復曰兗州。而滑台之兗州則為西兗州。
北魏孝昌年間（525—527），西兗州又移治於定陶（今山東定陶縣西北）。
北魏太和年間（477—499）置南兗州於渦陽（今安徽蒙城縣東北），
北魏正光年間（520—525）又移治譙城（今安徽亳州）。當時稱兗州（瑕丘）、西兗州（滑台）、南兗州（譙城）為三兗州。
東魏時設兗州於瑕丘，改置南兗州於陳留，西兗州於濟陽（今山東曹縣西北）。北齊時，改清江之兗州為淮州，廣陵之兗州為東廣州。
隋朝
隋初沿襲前制，隋文帝開皇三年（583），“遂廢諸郡，行州縣之制”，冀州刺史部除。607年（隋大業三年）復置兗州刺史部為監察區，隋亡遂廢。
行政區劃
西漢
【東郡】治濮陽（今河南濮陽）
下轄：濮陽，白馬，燕縣，離瓜，頓丘，觀縣，樂昌，東武陽，陽平，清縣，發乾，聊城，博平，臨邑，東阿，須昌，壽良，范縣，廩丘，黎縣。
【濟陰郡】治定陶（今山東定陶西北）
下轄：定陶，乘氏，成陽，句陽，葭密，呂都，冤句，鄄城。
【陳留郡】治陳留（今河南開封）
下轄：陳留，浚儀，小黃，封丘，酸棗，長垣，長羅，濟陽，東?，外黃，成安，雍丘，尉氏，襄邑，寧陵，傿縣，平丘。
【淮陽國】治陳縣（今河南淮陽）
東漢
陳留郡治陳留（今河南開封縣陳留）。
領17縣：陳留、雍丘、尉氏、扶溝、圉縣、襄邑、己吾、考城、外黃、濟陽、東昏、小黃、浚儀、封丘、平丘、長垣、酸棗。
東郡治濮陽（今河南濮陽慶祖北）。
領15縣：濮陽、白馬、燕縣、頓丘、衛國、東武陽、陽平、東阿、范縣、谷城、臨邑、樂平、發乾、聊城、博平。
濟陰郡治定陶（今山東定陶城西北）。
領11縣：定陶、冤句、乘氏、句陽、成陽、鄄城、廩丘、離狐、成武、單父、己氏。
山陽郡治昌邑（今山東巨野昌邑）。
領10縣：昌邑、巨野、金鄉、東緡、防東、方與、高平、湖陸、南平陽、瑕丘。
任城國治任城（今山東微山魯橋）。
領3縣：任城、亢父、樊縣。
東平國治無鹽（今山東東平宿城）。
領5縣：無鹽、壽張、須昌、富城、章縣、東於陸、寧陽。
濟北國治盧縣（今山東長清馬上附近）。
領5縣：盧縣、茌平、蛇丘、剛縣、成縣。
泰山郡治奉高（今山東泰安范鎮）。
領12縣：奉高、博縣、梁甫、巨平、茌縣、嬴縣、牟縣、萊蕪、蓋縣、南武陽、費國、南城。
三國
兗州：分置東郡、濟陰、山陽、泰山、濟北國、陳留國、任城國、東平國等四郡四國，下轄71縣，屬魏地。約於今山東省西界與河南省東北。
西晉
| 兗 州 | 廩丘 | 陳留國 | 小黃縣 | 10 | 小黃縣、浚儀縣、封丘縣、酸棗縣、濟陽縣、長垣縣、雍丘縣、尉氏縣、襄邑縣、外黃縣 |
| 濮陽國 | 濮陽縣 | 4 | 濮陽縣、廩丘縣、白馬縣、鄄城縣 |
| 濟陰郡 | 定陶縣 | 9 | 定陶縣、乘氏縣、句陽縣、離狐縣、宛句縣、己氏縣、成武縣、單父縣、城陽縣 |
| 高平國 | 昌邑縣 | 7 | 昌邑縣、巨野縣、方與縣、金鄉縣、湖陸縣、高平縣、南平陽縣 |
| 任城國 | 任城縣 | 3 | 任城縣、亢父縣、樊縣 |
| 東平國 | 須昌縣 | 7 | 須昌縣、壽張縣、范縣、無鹽縣、富城縣、東平陸縣、剛平縣 |
| 濟北國 | 盧縣 | 5 | 盧縣、臨邑縣、東阿縣、穀城縣、蛇丘縣 |
| 泰山郡 | 奉高縣 | 11 | 奉高縣、博縣、嬴縣、南城縣、梁父縣、山茌縣、新泰縣、南武陽縣、萊蕪縣、牟縣、巨平縣 |
北魏
| 南兗州 | 馬頭郡 | 渦陽（安徽蒙城） | 7郡21縣 |
| 兗州 | 瑕丘（山東兗州） | 6郡31縣 |
東魏
| 南兗州 | 陳留郡 | 譙（今安徽亳州） | 5郡 |
| 兗州 | 瑕丘（今山東兗州） | 4郡 |
北齊
| 兗州 | 瑕丘（今山東兗州） | |
| 西兗州 | 濟陰郡 | 定陶（今山東定陶） |
隋朝
| 兗州刺史 | |||||
| 計6郡57縣。地域相當於今山東西北部、河北東南部 | |||||
| 東郡 | 白馬縣（今河南滑縣東南舊滑縣） | 東平郡 | 鄆城縣（今山西鄆城東張營） | 濟北郡 | 盧縣（今山東東阿縣西北） |
| 武陽郡 | 貴鄉縣（今河北大名縣東北） | 渤海郡 | 陽信縣（今山東陽信縣西南） | 平原郡 | 安德縣（今山東陵縣） |
