南朝梁普通五～七年（524～526)置仁州，治赤坎城，即今安徽固鎮縣新馬橋鎮仁和集。
北齊,仁州領谷陽郡(今安徽固鎮縣城南一公里谷陽城遺址)和蘄城郡（治今安徽宿州市墉橋區蘄縣鎮）.
南朝陳太建五年（573）陳入據淮北，仁州轄蘄城郡和潁川郡（治今安徽鳳台縣）.
北周仁州領谷陽、蘄城、龍亢３個郡。
隋開皇三年廢郡，仁州領蘄、龍亢、谷陽、臨淮４個縣。大業二年，撤銷仁州入彭城郡，谷陽、臨淮２個縣改屬徐州，撤銷臨淮縣，併入谷陽縣。
唐武德四年（421），平王世充，復置仁州，領夏丘、谷陽２個縣，治夏丘（安徽泗縣城關鎮東）；又析夏丘置虹及龍亢２個縣，計領４個縣。六年，撤銷夏丘縣。貞觀八年，廢仁州及龍亢縣，虹縣改屬泗州；谷陽縣改屬北譙州（初名譙州）。
