西晉末年，發生了一起皇族爲了爭奪中央政權而引發的內亂，史稱“八王之亂”，這場內亂耗盡了西晉的國力，直接導致了之後的“五胡亂華”，以及西晉的滅亡。“五胡”主要指匈奴、鮮卑、羯、羌、氐五個胡人大部落，他們在百餘年的時間在中國北方建立了數十個少數民族政權，大肆屠殺漢人，堪稱漢民族的災難。
“五胡亂華”是由匈奴和氐族拉開序幕的，公元304年，趁“八王之亂”，氐族首領李雄佔成都，自稱“成都王”，史稱成漢(304-347年)。匈奴貴族劉淵起兵於離石，史稱前趙又稱作漢趙(304-329年)。
316年“前趙”大將劉曜帶兵攻打西晉，晉愍帝投降，西晉滅亡。319年劉曜自立爲帝，與此同時曾歸附於前趙的羯族首領石勒也稱趙王，二人瓜分“前趙”領土，公元329年石勒滅前趙，330年石勒稱帝(史稱後趙)。
公元337年，遼東鮮卑貴族慕容皝自立爲燕王，名義上雖爲東晉的諸侯國，但實際上卻擁有絕對的自治權，並與342年擊敗了後趙的二十萬大軍，爲慕容家族日後入主中原打下基礎。
350年“後趙”發生內亂，冉閔奪取政權，改國號爲魏，史稱“冉魏”，後趙滅亡。冉閔曾因頒佈“殺胡令”挽救了北方漢人免受滅亡的命運。352年慕容家族南下，擊殺閔冉，滅亡冉魏，慕容儁脫離東晉自立爲帝，國號“燕”，史稱“前燕”。
前燕建立的同時，後趙的氐族將領苻健，攻佔長安，建立“前秦”，至此中國北方中原地區的主要政權只剩下前秦，前燕，前涼，代。
370年“前秦”皇帝苻堅趁“前燕”政局不穩，出兵滅前燕，擒皇帝慕容暐，前燕滅亡，隨後又消滅了前樑，代，等少數民族政權公元376年前秦基本統一了中國北方地區，和南方的東晉形成了新的對峙局面。
公元382年，苻堅親帥百萬大軍準備南下滅晉，一舉統一全國，於是發生了中國歷史上著名的以少勝多的戰例“淝水之戰”，此戰後前秦元氣大傷，原先歸順的少數民族政權紛紛自立，384年原降於前秦的羌人貴族姚萇在渭北叛秦，建立“後秦”，同一年慕容家族再次建立了後燕，西燕。386年拓跋珪重建代國，稱魏王，史稱“北魏”。
北方地區再度陷入混戰，394年後燕滅西燕，395年後燕被北魏擊敗，領土一分爲二，分裂爲西燕和南燕此後一蹶不振。與此同時北魏逐漸強盛，398年拓跋珪正式稱帝。
398年東晉滅南燕，407年馮跋奪後燕政權建立北燕，417年東晉劉裕率大軍滅後秦，436年北魏滅北燕，439年北魏滅北涼再次統一中國北方。“五胡十六國”時期宣告結束。而早在420年，南方的東晉也被劉裕奪權，建立了宋朝，史稱“劉宋”，中國歷史上另一個大分裂時期，“南北朝”拉開序幕。
