確山,很早就有遠古先民在淺山和平原地帶生息繁衍。樂山東打石山,有舊石器時代人類遺址;曹莊、朱莊、橡林等地,有新石器時代文化遺址。迨至西周,縣境北部為道國,東南一隅屬江國。春秋屬楚,秦屬潁川郡。西漢高帝四年(公元前203年),置朗陵縣,治所在今溱頭河北岸的任店,屬汝南郡。
公元前25年,縣西北境建安昌侯國;公元前7年,東北境又建陽安侯國。東漢省安昌入朗陵。西晉時,復於西南置安昌縣。南北朝時,隨形勢消長時南時北,縣名、疆域與歸屬變更頻繁。公元421年,南朝劉宋於縣境建初安郡。528年、547年,南梁兩次進據淮北,廢初安郡,僑治陳州。北魏復占後,廢州仍置郡縣,改稱安昌縣。556年,北齊廢郡縣,僑治荊州。北周時,改為威州。隋初,廢州復置安昌縣,於583年遷縣治於橫列如屏、林壑清幽的盤龍山下,改名為朗山縣。北宋大中祥符五年(1012年)因避諱改朗山縣為確山縣,因史載城南有泉入竇、聲若搉米的確山而名縣。元相沿未變。明初一度省入汝陽,洪武十四年(1381)復置,後送不變。元明清三朝均屬汝寧府。民國初屬汝陽道,後撤道,直屬省轄。建國後,屬信陽專區,1965年改屬駐馬店專區,至今不變。