灰質主要由神經元的細胞體構成，白質主要由神經元中被髓鞘包圍的突起構成。
在脊髓和延腦，外圍主要是白質，內部是灰質；在大腦和小腦以及腦幹，情況相反，外圍是灰質，內部是白質。
灰質和白質的功能也不一樣，灰質是神經中樞，起支配作用（包括脊髓灰質，它也可以控制一些低級的非條件反射。）；而白質則主要起傳導作用，如脊髓白質主要傳導腦部和脊髓灰質的興奮。
脊髓的內部結構由灰質和白質組成，灰質位於中央，從橫斷面看呈左右對稱的蝴蝶形，由各種神經細胞組成，脊髓灰質分為脊髓前角、側角和后角，前角內有大量的運動神經細胞，側角內含有交感神經細胞，而后角內含有感覺神經細胞；白質位於灰質的四周，由縱行的傳導神經纖維組成，其主要的成分是由從大腦傳達到脊髓的運動神經傳導纖維組成的皮質脊髓束，以及從脊髓傳達到大腦的感覺神經纖維組成的脊髓丘腦束組成
