一，東晉僑置。
鹹康四年（338年)，晉僑置小黃縣（安徽亳州市區），屬陳留僑郡。隆安三年（399年)，後秦廢。北魏復置，為陳留僑郡治所。後為實縣，隋開皇三年（583年)，撤銷陳留郡，為亳州治所。大業三年（607年)四月改小黃縣為譙縣。
二，南朝宋僑置。
南朝宋泰始七年（471年 ），置小黃僑縣（今安徽壽縣板橋鎮附近），屬僑置陳留郡。
北魏永平元年（508年)入北魏廢。
北魏熙平元年（516年)，今縣境入梁復小黃僑縣。仍屬僑置陳留郡。
東魏武定六年（548年)八月入東魏，小黃改名黃城屬譙州（治渦陽，今蒙城縣城關鎮北）下蔡郡（治黃城）。北齊因之。
陳太建五年（573年)，伐北齊。十月乙巳，黃城又叫小黃縣。還屬僑置陳留郡。北周因之。
隋開皇三年（583年)，廢郡、並縣，廢小黃僑縣。
隋末復置。唐武德七年（624年）撤銷，併入安豐縣。
