南朝宋升明三年(479年)四月,蕭齊代劉宋。西汝陰郡改為南汝陰郡。治汝陰縣(今安徽壽縣城區),領汝陰、樓煩、安城、宋縣、陳縣、平豫、固始、新蔡、汝南僑縣。北魏正始三年(506年),南汝陰郡為北魏占據。郡廢。