出身官宦
房玄齡出生於官宦之家，其曾祖房翼，後魏鎮遠將軍、宋安郡守，襲壯武伯。祖房熊，字子，釋褐州主簿。父房彥謙，好學，通涉《五經》，富有辯才，是魏、齊間的山東學者。
年少有爲
房玄齡自幼耳濡目染，頗承其父遺風。自幼聰慧，善詩能文，博覽經史，精通儒家經書，又向父親學得一手好書法，工草隸。18歲時本州舉進士，先後授羽騎尉、隰城尉。
亂世投主
隋朝末年天下大亂，李淵率兵入關，玄齡於渭北投李世民，屢從秦王出征，參謀劃策，典管書記，任秦王府記室。每平定一地，別人爭着求取珍玩，他卻首先爲秦王幕府收羅人才。
輔助唐王
房玄齡爲報李世民知遇之恩，竭盡心力籌謀軍政事務。每攻滅一方割據勢力，軍中諸人都全力搜求珍寶異物，只有房玄齡首先收攏人才，將富有謀略和驍勇善戰的人安置在他的幕府中，私下與他們結爲朋友，共同爲李世民效力。
在擊破王世充後，玄齡認爲張亮“倜儻有智謀”，遂推薦給李世民，任秦王府車騎將軍，“委以心膂”。其他諸如才思敏捷的薛收，有“王陵、周勃節，可倚大事”的李大亮，“聰明識達，王佐之才”的杜如晦等都是經房玄齡舉薦以後才受到李世民重用的，後都位至卿相。
運籌帷幄
房玄齡在李世民秦王府中十多年，一直掌管軍謀大事，常負責管理文牘，每逢寫軍書奏章，停馬立即可成，文字簡約義理豐厚。一開始就不用草稿。
高祖李淵也對房玄齡深加歎賞，對侍臣講：“這個人深重地瞭解機宜，足能委以重任。每當替我兒陳說事務，一定能瞭解人的心理，千里之外，好像對面說話一樣。”後來太子李建成斥逐秦王府官屬，房玄齡與杜如晦一併被驅斥於外任。
安定社稷
唐武德九年(626年)，他協助李世民經營四方，削平羣雄，參與玄武門之變的策劃，幫助李世民謀得帝王之位，李世民稱讚他有“籌謀帷幄，定社稷之功”。太宗論功行賞，以房玄齡、長孫無忌、杜如晦、尉遲敬德、侯君集五人功爲一等，進爵邢國公。
精誠奉國
房玄齡追隨唐太宗平定天下，出入生死，備嘗創國立業之艱辛。他時刻不忘創業之難，警鐘長鳴，力戒驕奢淫逸，以維持國家的長治久安。
貞觀元年，房玄齡重視吏治，認爲吏治問題是求治的根本，而官吏的公平正直又是治國之要道。在選舉官吏的問題上，唐太宗主張“量才授職，務省官員”，“現在應當審查官吏，讓他們都能夠發揮各自的作用，那麼國家就可以無爲而治了。”房玄齡忠實地貫徹了他這一思想，大力簡政，並省官吏，“於是所配置的文武官員總六百四十員”。
房玄齡精減官吏的做法，對經隋末大亂、人口銳減的唐初來說，既裁去冗官濫職，避免十羊九牧，提高朝廷各部門辦事效率，同時也節省國家財政開支，減輕人民負擔。
房玄齡精通典制政令。貞觀初年，時值天下初定，朝章國典還很不完備，他與尚書右僕射杜如晦共掌朝政，亭臺樓閣等建築物的規模以及法令、禮樂、制度以及歷代遺留下來的有價值的東西，都是他們二人所制定，在當時獲得美譽。
在修定律令方面，房玄齡秉持“審查並確定法律和命令，將寬厚平和(的風格)做爲宗旨”的思想，簡化律令，又除去了隋朝的苛酷刑法。自房玄齡等更定律、令、格、式以後有唐一代都沒有發生過多大變動。
貞觀三年(629年)二月，房玄齡改封魏國公，爲尚書左僕射，監修國史。房玄齡盡心竭誠，早起晚睡。加之他明達吏事，法令寬平，任人惟賢，不分卑賤，人們都稱他爲良相。
貞觀九年(公元635年)，房玄齡護高祖山陵制度，以功加封開府儀同三司。貞觀十一年(公元637年)封樑國公。與杜如晦、魏徵等同爲唐太宗李世民的股肱之臣。
貞觀十三年(公元639年)，加太子少師。他留守京師。他任宰相十五年，女爲韓王妃，兒子房遺愛尚高陽公主，顯貴至極，但常常深自卑損，不敢炫人傲物。貞觀十八年，李世民親征遼東高麗，命房玄齡留守京城。
與世長辭
貞觀二十二年(648年)，房玄齡病重，太宗派名醫爲其醫治，每日供給御膳，並親臨探望。臨終之時，房玄齡對諸子說：“當今天下清平，只是陛下東討高麗不止，正爲國患。主上含怒意決，臣下莫敢犯顏。我知而不言，就會含恨而死啊。”於是抗表進諫，請求太宗以天下蒼生爲重，停止征討高麗。太宗看見奏表，感動地對房玄齡兒媳高陽公主說：“此人病危將死，還能憂我國家，真是太難得了。”臨終之際，李世民親至其病牀前握手訣別，立授其子房遺愛爲右衛中郎將，房遺則爲中散大夫，使其在生時能看見二子顯貴。
七月，房玄齡與世長辭，終年七十歲。太宗爲之廢朝三日，贈太尉，諡曰文昭，陪葬昭陵。與初唐其他二十三位開國功臣一起畫像並供奉於“凌煙閣”。
