秦、漢時代,軍中別部之統領官,也就是配合主力軍作戰的部隊將領稱別將。
漢代將重將、廄將、城將、弩將、亞將等作為別將,《史記·項羽本紀》:“諸別將皆屬宋義,號為卿子冠軍 。”《漢書·高帝紀上》:“五月,項羽拔襄城還。項梁盡召別將。” 顏師古註:“別將,謂小將別在他所者。”《三國志·魏志·明帝紀》:“征東大將軍曹休又破其別將於尋陽。”
魏中期以後,與主帥都督別道傅翼而行之將漸稱別將,北魏、北齊、北周之別將,隸屬總管,正六命,與都將、統軍、軍主、幢主並稱五職。(見《北周六典》卷十)
唐代制度,軍官中設有別將一職。以隋代之車騎(即為鷹揚副郎將)為別將,後定名果毅都尉。《舊唐書·職官志》說:“左右親士府統軍各1人,掌率左右別將,侍衛陪從。”在各折衝府也設別將。又別將一般也用作偏將的代稱。武德年間改稱車騎將軍為別將,又改稱果毅都尉。武則天時.廢折衝府長史,改為 別將,其位次於果毅將軍,其上、 中、下府分別為正七品下、從七 品上、從七品下。此時的別將不判府事,若無兵曹以上之官,則知折衝府事。別將又一般用作偏將之代稱。