春秋戰國時期,棠邑先屬楚,後屬吳,再屬越,至公元前334年復歸於楚,為吳楚交界吳國的重鎮。
秦始皇二十六年(前221年),始置棠邑縣,屬九江郡。
楚漢相爭,棠邑縣初屬楚。漢王三年(前204年)楚九江王英布以其地歸漢。
漢,高帝六年(前201)封陳嬰棠邑侯,為棠邑侯國,武帝元狩六年(前117年),改名, 棠邑稱堂邑。元鼎元年(前116年),堂邑侯國除,復為堂邑縣,屬臨淮郡。東漢建武年,改屬徐州廣陵郡。
三國,廣陵郡先屬魏,至吳赤烏十三年(250年),歸吳。堂邑縣遂屬孫吳廣陵郡。
晉太康元年(280年),以堂邑屬徐州臨淮郡,元康七年(297年),置堂邑郡於堂邑縣,隸揚州。東晉,成康四年(338年)江淮亂,百姓南渡,僑置堂邑郡於江南建康,而本郡不廢(一說遷堂邑郡僑治於建康,此從《通鑑》註:“實郡在江北者有堂邑”;《萬曆應天府志》:“僑置堂邑於此而本郡未廢")。隆安元年(397年),中原亂,秦地之民南流,寄居堂地,改堂邑郡為秦郡以統之,置秦縣;於秦郡置尉氏縣以安尉氏(今河南尉氏縣)流民,置義成縣以安義成(今安徽懷遠東北)流民。秦郡及秦、尉氏、義成3縣均僑置,並在今南京市六合區境,有實土。
南齊建元元年(479年),析秦郡置齊郡,治瓜步(瓜埠),屬青州。永明元年(483年),並秦郡入齊郡,將齊初恢復的堂邑縣又併入尉氏縣;永明二年以尉氏改屬新昌郡。梁天監元年(502年),廢齊郡復為秦郡,分尉氏縣為堂邑、尉氏2縣,太清三年(549年),侯景襲秦郡,改郡為西兗州。陳永定元年(557年)改復江北失地,恢復秦郡,堂邑、尉氏屬之。太建五年(573年),北齊再取秦郡,置秦州瓦梁郡,隨即為陳所收復,仍設秦郡;十年,改秦郡為義州,旋罷。北周於公元579年南下占領秦郡,改秦郡為方州,置六合郡,又置方山縣,屬方州。方州治於方山。
隋開皇元年(581年),廢六合郡,以所領各縣屬方州。開皇四年,廢尉氏、堂邑、方山3縣,並置為六合縣,屬方州。