秦兵大败，自相蹈藉而死者，蔽野塞川。其走者闻风声鹤唳，皆以为晋兵且至，昼夜不敢息，草行露宿，重以饥冻，死者什七、八。 初，秦兵小却，序在陈后呼曰：“秦兵败矣！”众遂大奔。序因与张天锡、徐元喜皆来奔。获秦王坚所乘云母车及仪服器械、军资珍宝畜产不可胜计，复取寿阳，执其淮南太守郭褒。

西晋末年的腐败政治，引发了社会大动乱。在南方，晋朝琅邪王司马睿于公元317年在建康称帝，建立东晋，占据了汉水、淮河以南大部分地区。

在北方，各少数民族政权纷争迭起。由氐族人建立的前秦国先后灭掉前燕、前凉、代等割据国家，统一中国的北方。

前秦寿光三年（公元357年）六月，秦主苻生欲除苻坚，苻坚先下手为强，杀掉苻生，自立为大秦天王（不称皇帝）。苻坚重用汉人王猛之后，国力大增，于公元373年攻占了东晋的梁、益二州，北并吞鲜卑拓跋氏之代国，西方兼并前凉，远征西域，一统北方。王猛病危，苻坚向他赶紧询问后事。王猛睁开双眼，望着苻坚说：“晋朝虽然僻处江南，但为华夏正统，而且上下安和。臣死之后，陛下千万不可图灭晋朝。鲜卑、西羌降伏贵族贼心不死，是我国的仇敌，迟早要成为祸害，应逐渐铲除他们，以利于国家。”说完便停止了呼吸。苻坚三次临棺祭奠恸哭，对太子苻宏说：“老天爷是不想让我统一天下呀，怎么这样快就夺去了我的景略啊”。于是，按照汉朝安葬大司马大将军霍光那样的最高规格，隆重地安葬了王猛，并追谥王猛为“武侯”。秦国上下哭声震野，三日不绝。王猛去世后八年，苻坚认为时机成熟，决定攻击东晋。

太元元年（公元376年），孝武帝司马曜开始亲政，谢安升中书监、录尚书事，总揽朝政，陈郡谢氏成为东晋的最后一个“当轴士族”。当时的东晋，长江上游由桓氏掌握，下游则属于谢氏当政，谢安尽力调和桓谢两大家族关系，为即将爆发的战争作准备。

太元二年（公元377年），东晋朝廷任命桓冲的儿子桓嗣为江州刺史。又任命五兵尚书王蕴都督江南诸军事，兼徐州刺史，任命征西司马兼南郡相谢玄为兖州刺史，兼广陵相，监长江以北诸军事。后来谢安举荐自己的侄子谢玄戍卫北方领土。桓冲为荆州刺史，防御荆襄地区；谢玄镇广陵，与谢安防御淮南地区。为了加强中央军力，晋孝武帝令谢玄招募淮南江北百姓，在广陵挑选良将，训练精兵，选拔了刘牢之等人，成立北府军。

太元三年（公元378年）二月，前秦王苻坚下达诏令，开始大举入侵东晋。百姓中每十个成年人就选派一人充军，富家子弟有三万多应征骑兵，苻坚任命秦州主簿赵盛之为少年都统。前秦王苻坚派征南大将军、都督征讨诸军事、守尚书令、长乐公苻丕，武卫将军苟苌和尚书慕容率领七万步、骑兵进犯襄阳，让荆州刺史扬杨率领樊州、邓州的兵众作为前锋，征虏将军始平人石越率领一万精锐骑兵出鲁阳关，京兆尹慕容垂、扬武将军姚苌率领五万兵众出南乡，领军将军苟池、右将军毛当、强弩将军王显率领四万兵众出武当，会合攻打襄阳。分三路合围襄阳，总计投入兵力17万。

四月，前秦的军队抵达沔水以北，梁州刺史朱序认为前秦的军队没有舟船，未作防备。等到石越率领五千骑兵渡过汉水，朱序才惊惶固守中城。石越攻克了他的外城，缴获了一百多艘船只，用来接运其余的兵众。长乐公苻丕统领众将领攻打中城。  慕容垂攻下了南阳，抓获太守郑裔，与苻丕在襄阳会合。 襄阳守将朱序死守近一年后，于太元四年（379年）二月城破被俘。 苻坚又派彭超围攻彭城，秦晋淮南之战爆发。谢安在建康布防，又令谢玄率5万北府兵，自广陵起兵，谢玄四战四胜，全歼敌军。谢安因功封建昌县公，谢玄封东兴县侯。

公元383年8月，苻融率25万先锋军队。苻坚率步兵60万、骑兵27万，共112万大军（实际上仅30万到达战场）前来。东晋以谢安之侄谢玄为先锋，率领经过7年训练，有较强战斗力的“北府兵”8万沿淮河西上，迎击秦军主力。

太元八年（公元383年）五月，桓冲倾十万荆州兵伐秦，以牵制秦军，减轻对下游的压力。

八月初二，苻坚派阳平公苻融统领张蚝、慕容垂等部下步兵、骑兵共二十五万人充当前锋；派兖州刺史姚苌任龙骧将军，督益、梁州诸军事。慕容楷、慕容绍对慕容垂说：“秦王骄傲自大已经到了极点，叔父建立复兴燕国的大业，成败就在这一次吧？”慕容垂说：“是的。但除了你们，还有谁能与我共同完成这一件大事呢？ ”

八月初八，苻坚从长安出发，亲率步兵六十万，骑兵二十七万，开始大举南侵。

九月，苻坚到达项城，凉州的军队到达咸阳。梓潼太守裴元略率水师7万从巴蜀顺流东下，幽州、冀州的军队也抵达了彭城，东西万里，水陆并进。阳平公苻融等率领的三十万军队首先到达颍口。

这时，秦军声势浩大，东晋京城里人们都感到恐惧。谢玄心里到底有点紧张。出发之前，谢玄特地到谢安家去告别，请示一下这个仗怎么打。谢安神情泰然，毫无惧色地说：“朝廷已经另外有命令。”说完就不做声了。谢玄不敢再问，就让张玄再去请示。谢安于是吩咐备车，到山中别墅里去游玩，亲戚朋友都被邀请到了那里。谢安就与谢玄下围棋，并以豪宅为赌注。谢安平常棋艺不及张玄，这一天，张玄心中恐惧，反而败给了谢安。谢安回头对外甥羊昙说：“别墅给你啦。”说完便登山游玩，到晚上才返回。把谢石、谢玄等将领，都召集起来，当面交代机宜事务。

当时，桓冲在荆州听说形势危急，打算派三千名精锐的士兵到建康加强防守， 谢安对派来的将士说：“我这儿已经安排好了，你们还是回去加强西面的防守吧！”将士回到荆州告诉桓冲，桓冲很担心。他对将士说：“谢公的气度确实叫人钦佩，但不懂得打仗。眼看敌人就要到了，他还那样悠闲自在：兵力那么少，又派一些没经验的年青人去指挥。我看我们都要失败被俘了。”

十月，前秦阳平公苻融等攻打寿阳。十八日，攻克寿阳，擒获平虏将军徐元喜等人。苻融任命河南人郭褒为淮南太守，慕容垂攻下郧城。胡彬听说寿阳被攻陷，就后退到硖石进行守卫，苻融接着进军攻打硖石，前秦卫将军梁成等率领五万兵众驻扎洛涧，沿淮河布防以遏制东面的部队。谢石、 谢玄等在距离洛涧二十五里的地方驻军不再前进，惧怕梁成。此时胡彬的粮食差不多耗尽，秘密地派遣使者向谢石报告说：“如今贼寇强盛而我的粮食已经耗尽，恐怕我不能再见到大军了！ ”前秦人抓住了胡彬，把他送交给阳平公苻融。得知胡彬粮尽乏援的困境，于是派使者向正率大军在项城的苻坚联络：“晋军兵少易擒，但就怕他们会逃走，应该快快进攻他们。 苻坚就把大队人马留在项城，带领八千轻装骑兵，日夜兼程地赶到寿阳与苻融会合。苻坚自认为能速战速决，并派已是前秦尚书的朱序前去劝降谢石，说：“我们力量强弱悬殊，你们不如迅速投降。”朱序却私下提示谢石宜先发制人，击溃前秦的先锋部队。他说：“秦军虽有百万之众，但还在进军中，如果兵力集中起来，晋军将难以抵御。现在情况不同，应趁秦军没能全部抵达的时机，迅速发动进攻，只要能击败其前锋部队，挫其锐气，就能击破秦百万大军。”谢石起初认为秦军兵强大，打算坚守不战，待敌疲惫再伺机反攻。听了朱序的话后，认为很有道理，便改变了作战方针，决定转守为攻，主动出击。

十一月，谢玄派广陵相刘牢之率五千精兵赶赴洛涧，秦将梁成扼守山涧部署兵阵迎击。在离洛涧十里远的地方，扼守山涧部署兵阵迎击。刘牢之取得洛涧大捷，斩杀梁成、梁云及弋阳太守王咏，秦军折损十多名大将及数万大军。刘牢之又分派部队阻断了他们归途上的渡口，前秦的步、骑兵全部崩溃，纷纷逃向淮水，歼灭前秦军队一万五千人，抓获了前秦扬州刺史王显等人，收缴了他们的兵器和粮草。于是， 谢石等各路军队继续西进，与秦军对峙淝水。秦王苻坚和阳平公苻融登上寿阳城观望，看到东晋的军队部署的阵势非常整齐，又远远望见八公山上的树木柴草，都以为是晋国的士兵，苻坚回头对苻融说：“这都是劲敌，怎么说他们弱呢？他心中有些失望，开始露出恐惧的神情。

前秦的军队紧靠洲水而列阵，东晋的军队不能够渡河。谢玄派使者对阳平公苻融说： “您孤军深入，紧靠水边摆下阵势，这是长期相持的办法，不是想快速作战的样子。如把阵势向后稍微移动一下,让东晋军队可以渡河，同前秦军队一战而定胜负，不也是很好的吗？ ”前秦的将领都说：“我们的军队人多，他们的军队人少，不如就这样阻击他们，使他们不能上岸，可以万无一失。苻坚说：只是将部队向后退一点，等他们过河过到一半的时候，我们用强大的骑兵践踏他们的身躯杀过去，是不可能不胜利的。”苻融也认为这样很好，于是就指挥部队向后退。前秦的军队这样向后一退，就没有办法再停止下来，谢玄、谢琰，桓伊等人率领军队乘机渡河，向前秦军发起攻击。苻融骑马巡行军阵，想率领正在退却的兵士，不料马摔倒了，他自己也被赶过来的东晋士兵杀死了，前秦军于是全部崩溃。谢玄等人乘胜追赶，一直追到青冈。前秦军被打得大败，自己人互相践踏而死，尸体布满田野， 堵塞河流。那些逃走的兵士听到风吹和鹤叫的声音，都以为是东晋军队就要追来了，白天黑夜都不敢停下来休息，也不敢走大路，只在人迹罕至的草丛中逃走，走倦了就在露天底下睡 一下，加上饥饿和寒冷，死亡的人有十分之七八。当初，前秦军队稍微后退时，朱序在军阵后面大声地喊：“前秦军队失败了！”兵士们就争着向后逃跑。朱序趁此之机和张天锡、徐元喜投靠到东晋军营中来。东晋军还截获了前秦王苻坚所坐的云母车。又夺取了寿阳，抓获前秦淮南太守郭褒。

苻坚中了流箭，只身匹马逃到淮河以北，饥饿难耐，有的百姓给他送来了盛在壶里的泡饭、猪肉，苻坚吃了下去，赏赐给他们十匹布帛，十斤绵，然而该平民却拒绝，更称苻坚伐晋是自取厄困，自己身为其子民即为其子，儿子孝顺父亲是不图回报的，苻坚听闻后潸然落泪。

这时，前秦的各路军认全都溃散，唯独慕容垂所率领的三万人全部保存下来，苻坚带领骑兵一千多人赶到他那里去。慕容垂的大儿子慕容宝对慕容垂说：“现在前秦君主的军队已经失败，投奔到我们这里，这是上天赐予我们机会来恢复燕国皇位，这个机会是不可以失去的，希望您不要因他对我们的微小恩惠，而忘记了复兴燕国的重大责任！”慕容垂说：“你说得不错。然而他用诚心将自己的命运交给我们，我们怎么能去害他呢？不如在他危险的时候保护他，慢慢等待前秦出现裂痕时，再想办法复兴燕国。这样，既不违反本来的心意，而且可以凭道义获得天下。”奋威将军慕容德说：“兄长为什么在能够得到时却不去夺取，而抛弃觐万人的军队交给别人呢？”慕容垂说：“我往日不能被太傅所容纳，无处安身，逃到了秦国。秦国君主把我当国中少有的人才看待，恩惠礼遇都很周到。后来我又被王猛所陷害，无法表达自己的清白，只有秦国君主了解我，这种恩德，如何能够忘记呢？如果氐族的国运必定穷尽，我将招来聚集函谷关以东的民众，恢复祖先的基业，函谷关以西地区当不会归我所有。”冠军行参军赵秋说：“明公应当继承、恢复燕国的基业，这已经记录在图录谶文中。现在上天给予的时机巳经来临，还要再等到什么时候?如果杀掉秦国君主占据邺城，擂起战鼓西行，三秦之地也就不会归苻氏所有了！”慕容垂的亲信党羽大多都劝他杀掉苻坚，慕容垂一概没有听从，命令把军队交给苻坚。苻坚与慕容垂的三万军队会合，随后一直沿途收集逃散的败兵，到洛阳时聚集了十余万人，百官、仪物和军容都大致齐备了。后苻坚返回长安，哭悼苻融并告罪宗庙后下令大赦，下令锻炼兵器并监督农务，抚慰孤老及阵亡士兵的家属，下令淝水死难者的家属永世不需向朝廷交纳赋税，苻坚没有因为淝水大败就心灰意冷，反而更加努力，试图重建国家秩序。

当晋军在淝水之战中大败前秦的捷报送到时，谢安正在与客人下棋，他看完捷报，便放在座位旁，不动声色地继续下棋。客人问他是什么事，他慢条斯理地回答说：“没什么事，孩子们已经打败敌人了。”直到下完了棋，客人告辞以后，谢安才抑制不住心头的喜悦，舞跃入室，把木屐底上的屐齿都碰断了。淝水之战的胜利，使谢安的声望达到了顶点。以总统诸军之功，进拜太保。