小南海水庫主要以滯、蓄洪水為主,與下游彰武水庫互相配合、聯合運用,確保全陽市區、京廣鐵路、107國道和南水北調主幹渠的安全。
小南海水庫始建於1958年5月,至1960年9月完成大壩填築、輸水洞襯砌、溢洪道開挖等工程。1961~1962年續建大壩。1967~1981年,溢洪道挖深、大壩加高、輸水洞灌漿。主要建築物有大壩、溢洪道、輸水洞等建築物。壩型為粘土斜牆堆石壩,長394.5米,最大壩高54米,壩頂寬7米。溢洪道最大泄水量每秒7094立方米。輸水洞長282.87米,洞身直徑2.5米,最大輸水量每秒92立方米。