西漢始有臨淮其名。元狩六年(前117年即漢武帝劉徹在位第六年),設定臨淮郡,淮陰、射陽縣屬臨淮郡,盱眙為臨淮郡都尉治所。殷商時,(泗洪)境內屬徐。西周至春秋末期,因徐都遷入而成為徐國政治中心。西漢以前,曾隸屬徐、吳、越、楚、西楚等諸侯國;東漢至南北朝,屬臨淮、淮陵、安遠、朱沛等郡;繼屬北徐州、南徐州、東徐州、東楚州等州地。北周以後,大體為泗州本州(即泗州直管區)。元朝至元十三年,行淮東安撫司。二十年,升為淮安府路,兼領臨淮府、海寧、泗、安東四郡。至元二十七年(公元1290年),革臨淮府,至此以下,臨淮郡下無實土。臨淮王封號延續至明代以後。
注:
元狩(前122年 - 前117年)是漢武帝劉徹的第四個年號
至元(1264年 -1294年)是元朝時元世祖忽必烈的年號