中國原來沒有拼音字母，採用直音或反切的方法來給漢字注音。直音，就是用同音字註明漢字的讀音，如果同音字都是生僻字，就是注了音也讀不出來。反切，就是用兩個漢字來給另一個漢字注音，反切上字與所注字的聲母相同，反切下字與所注字的韻母和聲調相同。這兩種注音方法，用起來都不方便。
唐代守溫和尚在分析漢語聲母韻母和聲調的基礎上，制定了描述漢字語音的三十六字母，可惜他用漢字來表示這些聲母和韻母，因此，沒有進一步發展成拼音文字。
明朝末年西方傳教士來中國傳教，爲了學習漢字，他們開始用拉丁字母來拼寫漢語。1605年，意大利耶穌會傳教士利瑪竇在北京出版了《西字奇蹟》，其中有4篇漢字文章加了拉丁字母的注音。 《西字奇蹟》這本原書已不容易找到，據說，梵蒂岡圖書館尚有藏本。
1892年，福建人盧戇章經過10年努力，寫了一本《一目瞭然初階》的書。這是第一套由中國人自己制訂的漢語拼音方案。當時盧戇章把它稱爲“切音新字”，用拉丁字母及其變體來拼廈門音，聲韻雙拼，左右橫寫，聲母在右，韻母在左，另加鼻音符號和聲調符號。但盧戇章的“切音新字”並沒有得到推廣。
鴉片戰爭以後，中國淪爲半殖民地半封建社會，挽救民族危亡和振興中華的熱情，激發着一些愛國知識分子提出了教育救國的主張。一批知識分子開始要求對漢字進行改革，甚至要廢除方塊字，改用字母文字。改革呼聲在“五四”時期達到高潮，被譽爲“民族魂”的魯迅甚至一度發出“漢字不滅,中國必亡”的吶喊。而梁啓超、沈學、盧戇章、王照等人指出，漢字的繁難是教育不能普及的原因，掀起了一場"切音字運動"。
1906年春，“帝國郵電聯席會議”於上海召開，由劍橋大學教授威妥瑪整理、傳教士翟理斯修改之後的《威妥瑪一翟理斯拼音方 案》(史稱“威妥瑪拼音法”)公之於世，使漢語拼音第一次在全世界範圍內有了較爲廣泛的推廣，但缺點是很多音都拼不準。
1913年2月25日北洋政府教育部“讀音統會”在北平召開。審定了6500個漢字的讀音，用各省代表投票的方法確定了"標準國音";擬定了一套注音字母，共39個，這套字母採用漢字筆畫式， 字母選自古代漢字。5年後這次會議確定的“標準國音”與注音字母由教育部正式公佈，全國小學的文言文課一律改爲白話文課，小學教科書都在漢字的生字上用注音字母注音。
1928年，語言學家黎錦熙和趙元任創立了《國語羅馬字拼音法式》(簡稱“國羅”)。它雖然有四聲的區別，但卻輔以一套很複雜的變讀法則一般人很難掌握。
1931年身在蘇聯的瞿秋白與蘇聯漢學家合作制訂了拉丁化新文字(簡稱“北拉 ”)，但由於沒有標調，無法解決同音字問題，人們只能靠上下文描測字義，經常闈誤會。
拉丁化新文字的創制者"北拉派"和國語羅馬字的創制者"國羅派"之間曾經進行過激烈的論戰，但兩派在一些根本問題的認識上是一致的， 都是中國人自己創制的拉丁字母式的漢語拼音方案中比較完善的兩個方案，只是在個別枝節問題上有分歧。
1955年10月15日中國文字改革委員會和教育部在北京聯合召開全國文字改革會議。被譽爲我國“漢語拼音之父”的周有光提出漢語拼音方案三原則，即拉丁化、音素化、口語化。
1956年2月20日,《漢語拼音方案(草案)》出臺，1958年2月11日，第一屆全國民代表大會第五次會議正式批准了這一方案。
《漢語拼音方案》公佈以後，一般農民15到20個小時就能掌握漢語拼音，利用漢語拼音識字，100個小時就能識字1500個。那時中國無論大街小巷、田間地頭、商店食堂，只要有漢字的地方，都被標上了漢語拼音，成爲了人們生活的一部分。
