五胡亂華時期，中原大地是四分五裂，不過當時出現了一位比較出色的將軍，他的名字叫苻堅，苻堅也有自己的政權，他的政權是前秦，苻堅經過自己的努力，將一些小的政權吞併，北方地區獲得統一。
公元383年，苻堅率領百萬大軍開始南征，苻堅的戰略目的是將東晉滅掉，進而統一全國。雖然苻堅號稱自己是百萬大軍，其實，前秦是有名無實，當時的前秦已經面臨很多問題了，苻堅吞併的小政權，雖然表面上臣服於前秦，其實都在尋找自立的機會。
最後苻堅和東晉展開了歷史上著名的淝水之戰，後苻堅大敗，北方很多被苻堅吞併的小政權，這時候找到了獨立的機會，於是紛紛脫離前秦，強大的前秦解體。當時，各個小的政權如雨後春筍，姚萇建立後秦，慕容泓建立西燕，苻堅在戰敗後，他自己回到了北方，不過最後被後秦的姚萇殺害了。
就在前秦解體的時候，苻堅手下還有一個將軍在外面征戰，而且他西征過程中，還取得了不小的戰績，就在這位將軍回國的途中，他知道自己的祖國前秦已經沒有了，於是這位將軍沒有再回自己的祖國，在當地建立了一個新的國家。
這個將軍的名字叫呂光。史書記載，呂光是呂雉家族的後裔，因爲當年呂家全被漢朝人殺害，而呂光的祖父呂文倖免一難，最後逃亡到西域才得已存活下來，他們呂家和當地人通婚，在當地形成了一個強大的部族。根據《晉書》的描述，呂光天生就和別人不一樣，他身高八尺多，而且生下來左肘上還有肉印，其實就是胎記，這種生下來就不一樣的人，註定以後是建功立業的。(古人都是這麼認爲的)
後來呂光就跟着苻堅一起打仗了，呂光跟隨了苻堅二十多年，苻堅統一北方，呂光功不可沒。公元382年，西域很多小的政權來朝見前秦的苻堅，他們都表示臣服苻堅，於是苻堅讓呂光擔任經略西方的主帥，率領七萬步兵前去西域經營，維護當地治安，剷除敵對勢力。
在將西域很多軍務都完成後，呂光便回前秦了，可是當呂光行軍到高昌的時候，得知苻堅已經在淝水之戰後被殺了，於是他隨機應變，將西域各國降伏，並在當地建立政權。當時呂光到到涼州的時候，涼州的刺史樑熙要打呂光，結果樑熙被呂光擊敗，呂光也就駐紮在了涼州。
呂光在涼州讓三軍爲自己的國君苻堅服喪，在給國君服完喪後，他自己給了自己很多稱號，並廢除了前秦的年號，自己建立新的國家。這個國家也就是呂光在389年建立的後涼政權，而他自己也改稱三河王，到395年的時候，後涼達到了全盛，國土面積有217萬平方公里，不過這個國家存在的時間並不長，399年呂光死了，403年呂光建立的後涼就敗亡了。
