競技體育舉國體制的基本構成包括四個方面。
體育行政組織領導體系
主要為國家體育總局、省市體育局、地市體育局和縣市體育行政部門。這是一種自上而下的垂直型體育行政領導機構，可以保證競技體育舉國體制的各項政策措施得以有效地、迅速地貫徹和落實。從機構內部設定來看，省以上體育行政部門設有專門負責競技體育工作的機構，各個省市體育局的直屬事業單位基本都設有與國家體育總局下屬的運動項目管理中心相對接的運動項目管理中心，專門負責管理本項目業務範圍內的競技體育工作。
一條龍的運動員訓練體系
運動員培養方面，以國家隊為龍頭，以省市專業運動隊為中間力量，以重點業餘體校為後備軍，以一般業餘體校為基礎的獨立的、一條龍的專業化訓練方式；訓練方面，堅持“三從一大”、科學訓練的原則。
以全運會為核心的競賽體系
包括全國運動會、全國城市運動會、全國冬季運動會，各個單項運動協會定期舉辦的全國錦標賽、冠軍賽、聯賽等，以及為了培養高水平運動後備人才的青年、少年運動會和青少年單項錦標賽。
以政府投入為主的經費保障體系
以國家財政撥款為主，輔以體育公益基金、企業贊助等。國家財政撥款是主要渠道，按照分級負責制原則，中央財政負責國家隊，省區市財政負責省級運動隊，地市級財政負責市級運動隊。國家規定體育彩票公益金收益的40%用於發展競技體育事業。目前雖然經費來源呈現多元化趨勢，但以國家投入為主的情況沒有根本性改變。
