唐開元二十二年(734),為便利東南漕運,在古汴河口修築河陰倉,並析汜水、武陟、滎澤地而河陰縣。以縣置於黃河之南而得名。在今滎陽市東北。五代、宋屬河南府。
治所屢有遷移,皆在今滎陽市東北一帶。
明洪武二年(1369)由廣武山北大峪口徙治廣武山南黃店街(今滎陽市廣武鎮),屬鄭州。
清乾隆二十九年(1764)省入滎澤縣。
1913年復置,屬豫東道(次年豫東道改稱開封道)。
1931年與滎澤縣合併為廣武縣。
河陰縣治所曾經三遷:始建治所在黃河、汴渠分水處,開元二十三年(公元735)遷於輸場之東渠口,元至正四年(1344)遷大峪口,明洪武三年(1370)遷黃店街。