先秦時期
《尚書》、《爾雅》、《周禮》、《呂氏春秋》等書中，都記載有九州，雖然對九州的具體記載並不相同，但都有豫州。《周禮》記載：“河南曰豫州”。《呂氏春秋》中說：豫州在河水和漢水之間，是周的所在地。
漢朝時期
東漢-青州、徐州、兗州、豫州
西漢-青州、徐州、兗州、豫州漢武帝元封五年(公元前106年)，將全國除中央之外的地域分為十三個州刺史部，其中豫州管轄現河南東部和安徽北部一帶。但這裡的州刺史部只是監察區，並無治所，並非真正意義上的行政區。
東漢時期，州成為一級行政區域，其中豫州治所為譙(今安徽省亳州)，轄區在今河南南部、今淮河以北伏牛山以東的河南東部、安徽北部、江蘇西北角及山東西南角。下轄潁川郡、汝南郡2郡，梁國、沛國、陳國、魯國4國，縣九十七個。
魏晉
西晉-兗州、豫州三國的曹魏時期，豫
州的治所在安城，下轄潁川郡、陳郡、魯郡、汝南郡、譙郡、弋陽郡、陽安郡、襄城郡、汝陰郡9郡，以及梁國、沛國2國。
西晉時期，豫州治所在陳縣（今河南淮陽），下轄10個郡國。
南北朝時期
南北朝-南朝齊-豫州、南豫州等
南北朝-北朝魏-豫州、東豫州等南北朝時期，州的數量增多，地域縮小，南朝宋設有南豫州，治所在姑熟(今安徽當塗)，南朝齊除南豫州外，還另設有豫州，治所在壽春(安徽壽縣)。而北朝的北魏設豫州和東豫州，治所分別在汝南(河南汝南)和南新息(河南息縣)。
隋朝時期
到了隋文帝開皇三年（583年），楊堅廢除郡一級行政區劃，改為州縣兩級體制，而隋煬帝時，又改州為郡，恢復秦朝的郡縣兩級體制，豫州的名稱消失。
