“國語”一詞在清末就已被一些語言學者使用，據考是朱文熊於1906年首次提出的，表明“官話”的普及。
“國語”一詞是鴉片戰爭以後提出來的。吳汝綸被認為是最早提到國語這個名稱的學者。1909年（宣統元年），江謙正式提出把官話定名為“國語”。
1911年以前
漢語標準語的歷史悠久，有雅言、通言等概念，但現代漢語標準語則繼承於始於北宋、定命於元明的“官話”體系。
國語作為現代民族共同語，本身的歷史並不長，但是民族共同語的概念卻由來已久。
早在春秋時期，就有類似民族共同語的“雅言”出現，孔子遊歷各國，傳道授業所用的正是這種語言，而非家鄉的方言，《論語》有載：“子所雅言，詩、書、執禮，皆雅言也”。
“官話”，是明清以來以北京音為代表的北方話。清朝政府規定“舉人、生員、貢監、童生，不諳官話者不得送試”。
儘管明清時期官話已成為官僚、知識分子階層的通用語，但它並沒有被統治政權向中國全國推廣，亦不為大多數漢語使用者所通曉，甚至沒有法定的稱呼。
1909年（宣統元年），清政府設立了“國語編審委員會”，將當時通用的官話正式命名為國語。這是漢語標準語歷史上首次得到官方命名。
1910年，將官話定名為“國語”的提議者、資政院議員.江謙再次在《質問學部分年籌辦國語教育說帖》中提出“用合聲字拼合國語，以收統一之效”的主張。1911年學部召開“中央教育會議”，通過了《統一國語辦法案》。自清末以來的國語制定運動，主要確定了標準語音的制定和國音符號（第一式）。在標準語音的制定方面, 以北方官話 (京音) 為基礎。
1911-1949
中華民國建立後，中華民國教育部於1913年2月在北京召開了“讀音統一會”，用每省一票的多數票方法審定了以“京音為主，兼顧南北”的6500多個漢字的“國音”，決議融合各地方言製作出標準“國音”，即“老國音”。它的特點是：聲母和韻母95%左右與北京音相同；保留入音。會議還通過了“注音字母”。
1916年，北京教育界人士組織了“國語研究會”。
1919年4月21日，北洋政府教育部成立了“國語統一籌備會”，1919年9月編輯出版了《國音字典》。
“五四”時期，發生了“白話文”運動。
1920年，教育部正式通令從該年起國小“國文科”一律改為“國語科”，教學白話文、“國音”和“注音字母”。
由於《國音字典》語音標準與北京語音標準產生的矛盾，1920年爆發了“京、國之爭”。南京高師英文科主任張士一於1920年發表《國語統一問題》，認為“注音字母”連同“國音”都要做根本的改造，不承認“國音”，主張以北京音為“國音”標準，回響者眾。全國教育會聯合會和江蘇全省師範附屬國小聯合會相繼做出了定北京語音為標準音的決議，並開始在學校推廣。
1923年國語統一籌備會第五次大會決定兼采二者，使用標準國音中的京音聲系，是為“國音京調”。
1924年—1926年，“增修國音字典委員會”修訂了“老國音”，將漢字讀音改為“以北京的普通讀法為標準”，即“新國音”。
1928年國民政府改為“國語統一籌備委員會”。1932年5月，教育部正式公布並出版《國音常用字彙》，為確立國語的標準提供了範本。
中華人民共和國成立以後，為了對少數民族的語言文字表示尊重，避免“國語”這個名稱可能引起的誤解，1955年10月相繼召開的“全國文字改革會議”和“現代漢語規範問題學術會議”決定將規範的現代漢語定名為“國語”，並確定了國語的定義和標準。其中“普通”二字的涵義是“普遍”和“共通”。1955年舉行的“全國文字改革會議”上，張奚若說：“漢民族共同語早已存在，現在定名為國語，需進一步規範，確定標準。這種事實上已經逐漸形成的漢民族共同語是什麼呢？這就是以北方話為基礎方言，以北京語音為標準音的國語。為簡便起見，這種民族共同語也可以就叫國語。” 1955年後採用“國語”一詞取代“國語”。
(上世紀三十年代瞿秋白在《鬼門關以外的戰爭》一文中提出，“文學革命的任務，決不止於創造出一些新式的詩歌小說和戲劇，它應當替中國建立現代的國語的文腔。”“現代國語的新中國文，應當是習慣上中國各地方共同使用的，現代‘人話’的，多音節的，有結尾的……” 1956年中華人民共和國國務院成立了“中央推廣國語工作委員會”，發出《關於推廣國語的指示》。)
1982年11月，第五屆全國人民代表大會第五次會議通過的《中華人民共和國憲法》寫入了“國家推廣全國通用的國語”的條文。
2001年1月1日起施行的《中華人民共和國國家通用語言文字法》確立國語和規範漢字為國家通用語言文字，並規定“國家推廣國語，推行規範漢字”。
作為現代國語的國語，和作為古代國語的中原雅音相比，融入了大量北方少數民族語言，和元朝之前的中國國語（官話）具有很大的不同。國語不具備的中原雅音的許多特徵，卻大量保存在各種漢語方言中。
定義與相關法規
1955年召開的“全國文字改革會議”和“現代漢語規範問題學術會議”通過了國語的定義，即：“以北京語音為標準音，以北方話為基礎方言，以典範的現代白話文著作為語法規範”的現代漢語標準語。
“以北京語音為標準音”，是指北京的語音系統，即北京話的聲、韻、調系統，並不意味著北京話就是國語的標準發音，事實上，兩者有著相當的差異。
“以北方話為基礎方言”，是指方言分區意義上的“北方”，包括中國的東北—華北地區、西北地區、西南地區和江淮地區等，由於北方話使用區的人口占漢族總人口的四分之三左右，而內部雖然有著“次方言”的存在，但是各地辭彙系統的差異相對較小，適合作為國語辭彙的基礎。
“以典範的現代白話文著作為位於法規範”，是因為“白話”與人們日常交流的口語基本一致，但是語法的規範程度更高，這樣若以書面的形式存在，更有利於人們學習和掌握。
《中華人民共和國憲法》第十九條規定“國家推廣全國通用的國語。”
