清代晚期
中國軍銜制當時，清王朝的腐敗無能和清軍戰鬥力的脆弱，在面對列強的戰爭中已暴露無遺。一些大臣、督撫紛紛上書，條陳時務，要求清廷迅速建立一支新式武裝。清朝皇室也痛感中國兵制過於陳舊，已不合時宜。為了維持自己搖搖欲墜的統治，必須改革兵制。於是採納眾議，決定效法西洋，訓練一支新式陸軍，以取代舊式綠營軍隊。1901年（光緒二十七年），清政府任命袁世凱為直隸總督兼北洋大臣，負責編練新軍。
清朝的新軍，在編制、裝備和操法上，完全仿效西方，而在人事制度上，基本上還是採用過去綠營制的一套老辦法。在編練新軍過程中，遇到許多矛盾，對推行新制障礙重重。因此，清政府進一步採取改革措施，繼續在所有方面進行改革，其中一個很重要的方面，就是移植西歐式軍銜制，試圖通過軍銜制度來改變當時“重文輕武”的流弊，振奮士氣，提高軍隊的社會地位，改變官職與官銜之間嚴重失調的狀況；改革官兵制服與識別標誌，既整肅軍容，亦適應操戰；實行國際上大體統一的銜級制度，以利於國際交往。
清政府從1904年開始，通過頒布實施一系列的章程制度，逐步推行西歐式軍銜制。1904年12月，清政府練兵處會同兵部向朝廷奏準《另定新軍官制事宜》，建議“參仿八旗官員之秩序，旁采各國軍營之規章”，按照西方軍官軍銜的三等九級制，取代舊的官階制度，建立新軍的階位品級體制，軍官“區為三等，析為九級”。
1905年3月，練兵處、兵部設計出軍官軍服和軍銜標誌的第一個圖案式樣。8月，練兵處提出軍官授銜的標準、條件、程式和要求。12月經清政府批准，陸軍軍官開始按新官制評定等級，從而形成了我國最早的軍銜等級：
上等第一級，正都統；
上等第二級，副都統；
上等第三級，協都統；
中等第一級，正參領；
中等第二級，副參領；
中等第三級，協參領；
次等第一級，正軍校；
次等第二級，副軍校；
次等第三級，協軍校；
1909年11月，軍咨處又奏請朝廷在軍階第一等第一級內正都統之上增設“大將軍”、“將軍”兩銜，與正都統同為上等第一級；設立軍士銜三級，即上士、中士、下士；在軍官和軍士之間增設“額外軍官”銜一級。
1910年12月，陸軍部對軍銜授予及晉升年限、軍官職務任免、最高服役年齡、軍官考績辦法等，都作了詳盡規定。如規定各級官佐的最高服役年齡為：正都統，65歲；副都統，62歲；協都統，58歲；正參領，55歲；副參領，52歲；協參領，50歲；正軍校，48歲；副軍校45歲；協軍校45歲。又規定，凡正都統榮獲大將軍、將軍稱號者，不受上述年齡限制。這一章程可視為中國歷史上第一部軍官服役條例。
晚清的“都統”對應將官，“參領”對應校官，“軍校”對應尉官；“正”、“副”、“協”分別對應上、中、少各級。從“正都統”至“協軍校”這九級，分別對應上將、中將、少將、上校、中校、少校、上尉、中尉、少尉。“大將軍”、“將軍”和“正都統”同為一級，是榮譽軍銜，相當於有些國家的元帥。“額外軍官”就是準尉。
民國時期
臨時政府
辛亥革命後，中華民國於1912年元旦正式成立。中華民國南京臨時政府沿用了剛剛實行不到一年的晚清軍銜制，但做了一些變動，主要是廢除清朝軍銜制的軍官銜稱，取消所有品級，仍按原來的三等九級，規定了新的軍銜名稱，軍士和兵均改為二級：
上等官佐：大將校、中將校、少將校；
中等官佐：大領、中領、少領；
初等官佐：大尉、中尉、少尉；
額外軍官；
軍士：一等目兵、二等目兵；
兵：一等兵、二等兵。
不久，南京臨時政府又對軍銜等級和稱謂做了修改，由六等十四級增至六等十六級：
上等官佐：大將軍、左將軍、右將軍；
中等官佐：大都尉、左都尉、右都尉；
初等官佐：大軍校、左軍校、右軍校；
額外軍官；
軍士：上士、中士、下士；
兵：上等兵、一等兵、二等兵。
右軍校升左軍校2年；左軍校升大軍校3年；大軍校升右都尉4年；右都尉升左都尉、左都尉升大都尉、大都尉升右將軍各3年；右將軍升左將軍4年；左將軍升大將軍無定年。
北洋政府
1912年8月，北洋政府在南京臨時政府軍銜制基礎上重新制定了軍銜制，並頒布《陸軍官佐士兵等級表》，軍官仍為三等九級。
將官：上將、中將、少將；
校官：上校、中校、少校；
尉官：上尉、中尉、少尉；
準尉官；
軍士：上士、中士、下士；
兵：上等兵、一等兵、二等兵。
北洋政府還有兩個特殊的規定，其中：
虛銜規定：將官銜在正式授予之前，可以先加一個虛銜，即陸軍上校可加少將銜，陸軍少將可加中將銜，陸軍中將可加上將銜。如護國名將蔡鍔，為陸軍中將加上將銜。
追贈軍銜的規定：軍官作戰陣亡或病逝後，依其生前業績，可以追贈高一級的軍銜，如中將可以追贈上將。
國民政府
1931年4月，國民黨政府頒布《陸軍軍官佐及士兵等級表》，沿用北洋政府時期的軍銜制，銜級和銜稱都不變。當時授軍銜沒有統一的機構，國民政府可以授，總司令部可以授，軍事委員會可以授，甚至上級機關或軍政長官也可以授。另外，當時軍銜和職務相比，銜高職低的情況比較普遍，軍長大都授上將。一些地方軍閥，也自封為上將。1933年，當時蔣介石在一次紀念周上講話說：“國民黨軍隊同列強相比，戰鬥力特弱而將官特多，上將都數不清了。”
為了整頓軍隊軍銜混亂狀況，以適應其軍事上的需要，國民政府決定對軍銜進行修訂。1934年7月和1935年1月，國民政府重新制定了陸、海、空軍《官制表》和《士兵等級表》。1935年3月，頒布了新的軍銜等級表，把上將分為第一、第二兩級，增設特級上將。整個軍銜等級為六等十八級：
將官：特級上將、一級上將、二級上將、中將、少將；
校軍：上校、中校、少校；
尉官：上尉、中尉、少尉；
準尉；
軍士：上士、中士、下士；
兵：上等兵、一等兵、二等兵。
海軍士兵分八級，稱謂與北洋政府時期相同。
國民政府時期的軍佐銜，最初等級設定與北洋政府時期相同，但改變了稱謂，即在軍官銜的前面冠以專業名稱，如“軍需少將”、“軍醫中校”、“軍法上尉”等。1934年以後，軍佐銜改用新稱謂，將級軍佐銜統稱“監”，校級軍佐銜統稱“正”，尉級軍佐銜統稱“佐”。
抗日戰爭結束後，國民黨軍隊為適應全面內戰的需要，對各級軍官的服現役限齡作了大幅度降低：一級上將，62歲；二級上將，60歲；中將，56歲；少將，52歲；上校，46歲；中校，44歲；少校，42歲；上尉，40歲；中尉，38歲；少尉，36歲。這在當時主要軍事國家中是比較低的。
國民黨軍隊的上將銜，比較複雜。除了分特級、一級、二級三個檔次外，還有中將加上將銜和追贈上將幾種。
特級上將為最高軍銜，授予陸海空軍最高軍事長官。實際上這一銜級是專為蔣介石而設的。
特級上將、一級上將和二級上將常服的軍銜標誌，抗戰結束前都是金版領章上綴3顆三角星。抗戰以後，常服的軍銜標誌，由領章改為肩章，二級上將為3顆五角星，一級上將、特級上將分別為4顆星、5顆星。因此，也分別被俗稱為“三星上將”、“四星上將”、“五星上將”。也有人是死後才被追贈的，如張自忠、廖磊等；還有人生前死後都為正式晉升二級上將，如錢大鈞、羅卓英等。
此外，國民政府於1934年12月對駐蒙古、新疆、西康、西藏等地的武職官員，頒行了一種特殊的官銜，共分三等十級，其稱謂類似於清末的軍官銜稱：一等一級稱都統、一等二級稱副統、一等三級稱協統，二等一級稱都領、二等二級稱副領、二等三級稱協領，三等一級稱都衛、三等二級稱副衛、三等三級稱協衛，此外還設有準衛一級。
新中國
中華人民共和國成立前，中國人民解放軍曾兩次擬議實行軍銜制度，一次是抗戰初期的第二次國共合作時期，一次是抗戰勝利後國共兩黨重慶談判之後。兩次擬訂的軍銜等級都與當時國民黨軍隊的軍銜制度相同，但由於受當時環境的制約，兩次擬訂的軍銜制度都未能實行。
1950-1965
開國元帥當時總幹部部和蘇聯專家初步制定的方案是將軍銜設為6等20級。
元帥3級：大元帥、國家元帥、兵種元帥；
將官4級：上將、準上將、中將、少將；
校官3級：上校、中校、少校；
尉官4級：上尉、一級中尉、二級中尉、少尉；
軍士4級：準尉、上士、中士、下士；
士兵2級：上等兵、列兵。
1953年《中國人民解放軍軍銜條例（草案）》對上述方案作了修改：
增加大校一級；將上將、準上將改稱大將、上將；
將上尉、一級中尉、二級中尉改稱大尉、上尉、中尉；
其它不變。
1955年1月23日，中央軍委發布“關於評定軍銜工作的指示”。1955年2月8日，第一屆全國人大常委會第六次會議通過《中國人民解放軍軍官服役條例》，中國人民解放軍正式實行軍銜制，軍銜設定上比1953年條例草案減少了兵種元帥、準尉兩級，共設6等19級。
元帥2級：
中華人民共和國大元帥（大元帥實際未授予）、中華人民共和國元帥；
將官4級大將、上將、中將、少將；
校官4級大校、上校、中校、少校；
尉官4級大尉、上尉、中尉、少尉；
軍士3級：上士、中士、下士；
士兵2級：上等兵、列兵。
但實際授銜時，應毛澤東本人的要求，中華人民共和國大元帥銜空缺未授；增加授予準尉軍銜，這是考慮到當時我軍有十幾萬副排級幹部，軍委決定暫時增加準尉銜，以解決副排級幹部的銜稱問題。
1965年5月22日，第三屆全國人大常委會第九次會議通過了《關於取消中國人民解放軍軍銜制的決定》，1965年6月1日開始實施。
1980年以後
中國軍銜制新公布的軍銜制度不設元帥、大將和大尉，而以一級上將為最高軍銜。軍官軍銜設3等11級：
將官：一級上將、上將、中將、少將；
校官：大校、上校、中校、少校；
尉官：上尉、中尉、少尉。
海軍、空軍軍官在軍銜前分別冠以“海軍”、“空軍”。專業技術軍官，在軍銜前冠以“專業技術”。
士兵軍銜按等級分為：
士官：軍士長、專業軍士；
軍士：上士、中士、下士；
兵：上等兵、列兵。
中國軍銜制1994年5月12日，中華人民共和國七屆全國人民代表大會第七次會議通過了關於修改《中國人民解放軍軍官軍銜條例》的決定。修改後的軍銜條例設3等10級，將官：上將、中將、少將；校官：大校、上校、中校、少校；尉官：上尉、中尉、少尉。
1995年9月10日，中華人民共和國七屆全國人民代表大會通過《中華人民共和國預備役軍官法》規定，預備役軍官軍銜設三等八級：少將；大校、上校、中校、少校；上尉、中尉、少尉。
1998年12月公布的《中華人民共和國兵役法》規定，義務兵服役時間為2年，並且不再超期服役。根據兵役法，自1999年後，軍士軍銜等級和專業軍士、軍士長的稱謂自行取消。士官軍銜重新設定為6級，稱謂由低到高為，初級士官：一級士官、二級士官；中級士官：三級士官、四級士官；高級士官：五級士官、六級士官。
2009年7月13日，中央軍委頒發《深化士官制度改革方案》，全軍和武警部隊全面施行新的士官制度。士官軍銜從原先一級至六級士官的6個銜級調整為7個銜級。分為初級士官、中級士官、高級士官三個等級，稱謂由低至高為，初級士官：下士、中士；中級士官：上士、四級軍士長；高級士官：三級軍士長、二級軍士長、一級軍士長。
