經過
苻堅不顧大臣們的反對，在公元383年帶著八十七萬大軍威風凜凜直向南方挺進。他有個如意算盤：這次肯定能把晉朝給拿下。經過一個月，苻堅主力到達項城(今河南沈丘南)，益州的水軍向東開發，黃河北面的軍隊也調到了彭城(今江蘇徐州)，前秦針對東晉擺出了一股咄咄逼人的架勢。
建康城裡，晉孝武帝和文武官員變得緊張起來了，他們都盼著宰相謝安拿主意。謝安是陳郡陽夏(今河南太康)人，祖上是有名望的士族。從北方到了南方後，他跟王羲之結為好朋友，他們一批朋友常常在會稽的東山聚會遊玩，吟詩喝酒。謝安有才幹，又有威望，可是年輕時他寧願隱居在東山，就是不肯做官。經人推薦他也當過官，只幹了一個月，就溜回東山了。直到四十歲，他才再次出來做官。後來人們就把重新出來當官叫作“東山再起”。
謝安非常喜歡下圍棋，他下得很慢，常常把後幾步棋思考清楚後才運子。當時他的一批朋友都不如他，有的時候，棋友看到他鎮定自若的神情就已經氣餒。他做事也是這種風格，了解他的人知道他是胸有成竹，不了解他的人還真為他著急呢!
那時，東晉北面的邊境常常遭到前秦的騷擾。謝安推薦自己的侄兒謝玄去廣陵(今江蘇揚州)，掌管江北各路人馬。朝廷中有個叫郗（xī）超的官員，一直與謝玄不和，聽說謝安推舉謝玄，便感嘆道：“謝安的高明，在於他能不避嫌疑，以國事為重，推舉自己的侄子；謝玄的才能則保證他擔當重任，不辜負謝安的重託。”
謝玄一到廣陵就開始招募軍隊。當時有不少從北方逃難的人到了廣陵，謝玄把他們都招募進來。其中有個彭城人叫劉牢之，武藝高強，謝玄重用他，他們訓練出了一支戰鬥力很強的軍隊。這支軍隊常年駐紮在京口（今江蘇鎮江），京口又稱“北府”，所以這支軍隊被稱做“北府軍”。
面對苻堅號稱百萬的軍隊南下，宰相謝安對原有的防守力量又重新作了部署，他派弟弟謝石為大都督，謝玄為前鋒都督，帶領八萬人馬在江北抵抗秦軍；派胡彬將軍帶五千水軍到壽陽(今安徽壽縣)對付東來的前秦水軍。
出發前，謝玄特地去見謝安，請教宰相面對兵力遠遠超過自己的敵軍，該怎么打才是。謝安像沒事似的說：“不要急，我自有安排。”
謝玄只得等著謝安的安排。可是等了老半天，謝安還是沒開口。
謝玄只好回了家，可是心裡仍然放心不下。過了一天就請好朋友張玄去看望謝安，順便問問宰相到底怎么個安排。謝安見到張玄仍然沒說什麼，而是帶張玄到自己在山上的一個住地。那裡有許多有名望的客人，謝安跟他們談天說地。張玄幾次要開口，可是沒有機會。
一會兒，謝安對張玄說：“你是個下棋高手，能不能跟我下一局?要是贏了我，這山上的房子就是你的了!”
張玄本來沒有心思下棋，不過想到趁下棋的機會可以問問宰相謝安的打算，也就答應了。謝安下棋像他平時那樣不急不慌，張玄卻下得挺不自在，結果張玄輸了。
接著，謝安又帶大家觀賞山上的景色，直到天黑才回到住地。
晚飯後，謝石、謝玄等將領都來了。謝安把他對戰事的分析和估計一一說明白，把每個將領的任務也一一交代清楚。就像他下棋那樣，有條有理，步步穩當，絕不馬虎。謝玄聽後，原先的疑慮一掃而光。眾將領充滿信心地回到軍營去了。
結果
在荊州的桓沖知道苻堅的進攻來勢很猛，不由為建康的安危擔心。他派出三千精兵趕到建康增援。不料謝安對他們說：“我已安排妥當。你們還是快趕回去把西面把守好。”
桓沖聽了回來將士的報告，仍然很不安。他說：“宰相真有氣度，鎮定自若。可是他不會打仗，兵力本來不如敵軍，讓幾個年輕人去指揮，我看要大事不好了!”他深深地嘆了一口氣。
再說苻堅到了壽陽，他以為晉軍人數少，不堪一擊。正這個時候，謝玄派出劉牢之帶領五千精兵，對在洛澗(在今安徽淮南東)的秦兵發動突然襲擊。這支北府軍就像猛虎下山一樣，直向秦軍衝殺過去。秦軍哪裡是對手，剛一交手就垮了下來。秦軍將軍梁成被晉軍殺了。其他秦軍爭先恐後渡過淮河逃命，大部分淹死在河裡。
