373年秦取樑、益二州，以楊安鎮成都，毛當鎮漢中，姚萇鎮墊江，王統鎮仇池，東晉軍退據巴東。
太元元年〔376年〕，孝武帝司馬矅開始親政，謝安升中書監、錄尚書事，總攬朝政，陳郡謝氏成爲東晉的最後一個“當軸士族”。同年，苻堅統一了中國北方，前秦與東晉的戰爭已經臨近。當時的東晉，長江上游由桓氏掌握，下游則屬於謝氏當政，謝安盡力調和桓謝兩大家族關係，以爲即將爆發的戰爭作準備。
第一階段：淮南之戰
378年四月，前秦徵南大將軍苻丕率步騎7萬人進攻襄陽。苻堅又另派10萬多人，分三路合圍襄陽，總計投入兵力就是17萬。襄陽守將朱序死守近一年後，於太元四年(379年)二月城破被俘。苻堅又派彭超圍攻彭城，秦晉淮南之戰爆發。謝安在建康佈防，又令謝玄率5萬北府兵，自廣陵起兵，謝玄4戰4勝，全殲敵軍。謝安因功封建昌縣公，謝玄封東興縣侯。
第二階段：淝水之戰
當時不在秦統轄之內的，只有偏安東南的東晉。苻堅自恃兵力強大，決心滅掉東晉，統一全國。公元383年，他發動了歷史上有名的淝水之戰。
這時東晉當政的是謝安。謝安頗識大體，使統治階級關係協和，時人把他比之王導而又“文雅過之”(《晉書·謝安傳》)。與之合作者爲桓衝：桓衝爲中軍將軍，都督揚、豫、江三州諸軍事，揚、豫二州刺史，鎮姑孰。桓衝能顧全大局，雖與謝氏有衝突，但能“盡忠王室”，“忠言嘉謀，每盡力心”(《晉書·桓衝傳》)、“自以德望不逮謝安，故委以內相，而四方鎮捍以爲己任”(《晉書·桓衝傳》)。謝安、桓衝一在朝廷，一在上游。當時桓、謝兩家手裏都掌有兵權，兩家合作共處，晉廷自南渡以來，難得政治安定。
淝水之戰的前夕，東晉以北府兵爲主力。北府兵是一支精幹強大的軍隊。北府，指的是京口(今江蘇鎮江);北方兗州、徐州南來的流民，多集中居住京口、常州一帶。東晉朝廷設置了南兗州、南徐州來安置這些僑民。這些來自北方的僑民“人多勁悍”，招募他們爲兵，能組成一支勁旅。晉孝武帝太元初，謝玄任兗州刺史，領廣陵相，監江北諸軍事、謝玄就“多募勁勇，牢之與東海何謙等以驍猛應選。謝玄以劉牢之爲參軍，領精銳爲前鋒，“百戰百勝，號爲北府兵。敵人畏之”(《晉書·劉牢之傳》)。
北方流亡到南方的僑民，最初不負擔租賦徭役。後米爲了整頓戶口，使僑民也負擔賦役，曾多次實行土斷。淝水戰前，桓溫主政時實行的一次土斷，歷史上稱作庚戌制(因爲是在晉哀帝興寧二年，公元364年，三月庚戌這天施行的)，比較徹底，得到“財阜國豐”的效果。後來劉裕實行土斷時的上表中稱：“大司馬桓溫，以民無定本，傷治爲深，庚戌土斷，以一其業。於時財阜國豐，實由於此。”(《宋書·武帝紀中》)可見，從財政上看，淝水之戰前也是東晉財力較爲充足的時期。
苻堅滅燕以後，沒有殺害燕主慕容昧和燕國王公大臣，仍讓他們作官，保持着一定的政治地位。他回答苻融說：“今四海事曠，兆庶未寧，黎元應撫，夷狄應和，方將混六合以一家，同有形於赤子，汝其息之，勿懷耿介”(《晉書·苻堅載記》)。這些話表達了苻堅作爲一個政治家的豁達的氣度，但這些想法在當時卻是不現實的。那時，被征服的各族的貴族是不會滿足於現有地位的。對於這一點，苻堅是沒有考慮的，後來在戰爭中他就吃了這個虧。
晉孝武帝太和八年(383)五月，桓衝傾十萬荊州兵伐秦，以牽制秦軍，減輕其對下游的壓力。七月，苻堅下詔、大舉攻晉。民每十丁抽出一丁當兵。良家子年二十以下有材勇者，皆拜羽林郎。八月，以苻融爲前鋒都督，指揮慕容垂等步騎二十五萬先行，苻堅隨後繼發，共有戎卒六十餘萬及騎兵二十七萬，旗鼓相望，隊伍綿延千里。九月，苻堅到達項城，而涼州之兵剛到咸陽，蜀漢之兵在此時方順流而下，冀之兵至於彭城，隊伍水陸齊進。運糧的船隻數以萬計，自河經石門，汴水、蒗薚渠前往汝潁。苻融則率兵三十萬，先到潁口(今安徽潁上東南，潁水入淮處)。
東晉以謝石爲征討大都督，謝玄爲前鋒都督，與將軍謝琰，桓伊等率衆八萬，以北府兵爲主力，北上抗擊秦軍。
十月，秦軍渡過淮水，攻陷壽陽(今安徽壽縣)。晉朝派去援助壽陽的胡彬水軍，聽聞壽陽失陷，退守硤石。苻融命將軍樑成帥大軍五萬進攻洛澗，載斷淮水通路，意在截斷胡彬的退路，也使晉軍不得從淮水水路西進。謝玄大軍自東而西推進，在到達洛澗以東二十五里處停止前進。胡彬派人給謝玄送信說：“今賊盛，糧盡，恐不復見大軍。”(《資治通鑑》卷一○五晉孝武帝太元八年，下同)送信人被秦軍捉去。苻融趕快送信給苻堅說：“賊少易擒，但恐逃去，宜速赴之。”苻堅見信，留大軍於項城，帶輕騎八千，趕到壽陽。
苻堅派朱序去晉軍大營，勸說謝石投降。朱序原是東晉襄陽太守，到了晉營，不但不勸說謝石投降，反給謝石劃策，說：“若秦百萬之衆盡至，誠難與爲敵。今乘諸軍未集，宜速擊之。若敗其前鋒，則彼已奪氣，可遂破也。”
十一月，謝玄遣劉牢之帥精兵五千人赴洛澗。樑成隔洛澗佈陣以待。劉牢之渡水進擊，大破樑成軍，殺了樑成。秦步騎崩潰，爭赴淮水，士卒死者一萬五千人。於是謝石大軍，水路俱進，迫臨淝水。苻堅和苻融登壽陽城東望，見晉軍佈陣嚴整，又望八公山上草木，皆以爲晉兵。苻堅開始有懼色，回頭對苻融說：“此亦勁旅，何謂弱也!”
秦軍緊靠着淝水西岸佈陣，晉軍進到淝水東岸，與秦軍隔水相峙。謝玄派人對苻融說：“君懸軍深入，而置陣逼水，此乃持久之計，非欲速戰者也。若移陣少卻，使晉兵得渡，以決勝負，不亦善乎!”秦的將軍們都說：“我衆彼寡，不如遏之，使不得上，可以萬全。”苻堅說：“但引兵少卻，使之半渡。我以鐵騎蹙而殺之，蔑不勝矣。”苻融也同意這個主意。苻融指揮軍隊稍退。
哪知大軍一退，便收不住了。謝玄等領晉軍渡水，衝殺過來。苻融想攔阻退兵，不想馬倒，死在亂兵之中。朱序又乘機在陣後大呼：“秦軍敗矣!”苻融一死，秦軍已慌，又聽得秦軍已敗，一發不可收拾。晉軍從後追殺，直追出三十多裏。秦軍自相蹈藉而死者，蔽野塞川。逃奔的兵卒，聞風聲鶴唳，皆以爲晉兵且至，晝夜不敢息，重以“飢凍，死者什七八”。晉軍收復壽陽。苻堅中流矢，只帶領少數人退回淮北。
淝水之戰，以秦軍的大敗結束。
