天下大勢，合久必分，分久必合。265年，司馬炎稱帝建立了晉朝，也就是史上的西晉，三國歸晉，終于結束了魏、蜀、吳三國紛爭割據、各自為政的局面，實現了國家統一，促進了民族的融合。然而，西晉王朝帶來的全國統一，只是一個短暫的安定局面，并沒有帶來長久的和平與安寧。而后的西晉，經歷了武帝、惠帝、懷帝驕奢淫逸、荒淫無度的統治，又遭遇“八王之亂”和“永嘉之亂”的動亂，可謂飽經風霜。在這樣的統治下，人民的生活并沒有比三國割據的時候好一些，百姓怨聲載道，有一些部落開始蠢蠢欲動，意欲趁勢而起。316年，北方匈奴攻破長安，俘虜了晉愍帝，西晉就這樣滅亡了。

西晉末年的腐敗統治使得戰爭頻繁、時局混亂，各路軍閥之間相互征戰不止。每個首領都胸懷抱負，一心想要統一華夏，歷史舞臺上，紛爭不止，你方唱罷我登場。社會的大動亂，使中國歷史進入了分裂割據的時期。

在南方，晉瑯玡王司馬睿于317年在建康（今江蘇南京）稱帝，建立了東晉，占據著漢水、淮河以南的大部分地區，憑借得天獨厚的地理條件，人口開始迅速增長，力量迅速發展壯大，成為南方最強大的軍事集團。

在北方，各少數民族政權紛爭迭起。當東晉在江南建國的同時，中國的北方則陷入分裂混戰，黃河流域成為匈奴、羯、鮮卑、氐、羌等五個主要少數民族和漢族爭殺的戰場，并分別建立了自己的國家，相互爭霸，不斷有國家建立和滅亡。

從304年匈奴貴族劉淵建立漢國、316年滅掉西晉，到439年鮮卑拓跋部統一北方，這一百三十多年里，北方各民族先后建立了前趙（匈奴）、后趙（羯）、前燕（鮮卑）、前涼（漢）、前秦（氐）、后秦（羌）、后燕（鮮卑）、西秦（鮮卑）、后涼（氐）、南涼（鮮卑）、西涼（漢）、北涼（盧水胡）、南燕（鮮卑）、北燕（漢）、夏（匈奴）等十五個政權，連同西南巴氐族建立的成漢，共十六國，和東晉漢族政權長期對峙，史稱“五胡十六國”。除十六國之外，還有漢人冉閔建立的魏、丁靈翟氏建立的魏、武都氐帥楊氏建立的仇池國、鮮卑慕容氏建立的西燕、鮮卑拓跋氏建立的代五個政權，先后總計建立了二十一個政權。上述政權中，后趙、前燕、前秦都曾占據過北方的大部分疆域。

許多北方來的少數民族，在相互征戰中開始相互融合，學習其他民族的特長和文化，在學習的過程中也借鑒漢人的制度和文化，再憑借軍事武力，建立了一個又一個的王朝政權。在這些政權中間，苻氏氐族貴族建立的前秦，由于皇帝苻堅勵精圖治，成為北方諸多政權中比較強大的一個部族。

這樣，在南方，有東晉王朝，在北方，有前秦王朝。東晉和前秦分別成為南北方兩支最強大的力量，既相互齟齬，也相互抗衡，暫時也取得一定程度的平衡。雖然兩國之間有時小有摩擦，但總體上因為實力相當，也算相安無事。

由氐族人建立的前秦國先后滅掉前燕、代、前涼等割據政權后，統一了黃河流域。以后又于373年攻占了東晉的梁（今陜西漢中）、益（今四川成都）二州，將勢力擴展到長江和漢水上游。前秦皇帝苻堅因此躊躇滿志，欲圖以“疾風之掃秋葉”之勢一舉蕩平偏安江南的東晉，統一南北。