南陳太建十一年(579年)北周南下占領秦郡,改秦郡為方州,置六合郡,又置方山縣,屬方州。方州治於方山(位於今南京市六合區橫樑街道東部)。
隋朝開皇元年(581年),廢六合郡,以所領各縣屬方州。隋朝開皇四年(584年),廢尉氏、堂邑、方山3縣,並置為六合縣,屬方州。隋朝大業元年(605年)廢方州,六合縣屬揚州江都郡。
唐朝武德七年(624年)復置方州,治六合(今南京市六合區),領六合、石樑2個縣。唐朝貞觀元年(627年),廢方州及石樑縣,六合縣改屬淮南道揚州。南唐升元元年(937年)定都江寧府(今南京),六合縣改屬江寧府。