先秦时期，中国分为“九州”，这里的“州”仅为地理名词，西汉时汉武帝将全国分为十三刺史部，多采用传说中的“州”，如青州、徐州、并州、益州、荆州等，因此又被称为“州部”，简称为“十三州”，此时的刺史部为监察区域并非行政区，到东汉末时改刺史为州牧，行政体制由郡、县两级改为州、郡、县三级，“州”作为正式行政区出现在我国历史舞台上。
自隋始，州制逐渐代替郡制，州直接辖县，州的数量也急剧增多。元朝时，州又出现了分化，开始分为直隶州、散州，直隶州、散州均辖县，但直隶州直属于省，散州隶属于路或府。山东省位于我国华东沿海北端，地处黄河下游，渤海、黄海之滨，自古为繁荣之地，是中华民族和华夏文明的重要发祥地之一，境内也辖州众多。
元朝时期，山东并未设省，直属于中书省（称为“腹里”），明军占领山东后，朱元璋于此设山东行省，后改为山东承宣布政使司，山东正式设省。山东设省后改路为府的同时撤销了一批州，著名的有潍州、密州等，具体如下。
潍州，因境内“潍水”而得名，最早设于隋朝时期，但此潍州仅存在数年时间，唐初再次复设后也很快撤销了，这两个潍州州治均为北海县（今潍坊市区），唐初潍州撤销建制后，北海县隶属于青州。潍州再次复设要等到北宋初，为北海军升格而来，金、元时期属益都路，明初废为潍县，隶属于莱州府，现为地级潍坊市。
密州为隋朝时胶州改设而来，州治东武（不久改称诸城县），因北宋时苏轼于此任知州而闻名，苏东坡在此留下了三首绝世名篇《江城子·十年生死两茫茫》、《江城子·密州出猎》和《水调歌头·明月几时有》，被称为“密州三曲”。明初，密州废而诸城县隶属于青州府，现为潍坊市所辖县级诸城市。
滕州市旧称滕县，是一座具有悠久历史的历史名县，为鲁班、墨子等故里，秦时就已设县，历史上曾有滕郡、滕阳州等名，金时改滕阳州为滕州，明初滕州废而存滕县，建国初曾设滕县专区，后改属枣庄市，现为枣庄所辖县级市。滕州隶属于枣庄市，而枣庄为建国后峄县改设而来，峄县明初也为州，峄州与滕州同年撤销建制，峄县、滕县明清时均属兖州府。
此外，博兴州、恩州、冠州、单州、陵州、淄川州、曹州这七个州明初也均废州存县，分别为博兴县、恩县、冠县、单县、陵县、淄川县及曹县，其中比较特殊的是曹州，明初曹州废为曹县后明朝中期又于今菏泽市区设曹州，曹县属之。现在，曹县、单县为菏泽市辖县，博兴县隶属于滨州市，冠县隶属于聊城市，陵县、淄川分别为德州陵城区、淄博淄川区，仅恩县建制彻底消失。