一 背景
土著开化的富裕地带对于游牧民族有不可抵御的诱惑。除非土著人民有能力把他们完全歼灭或驱逐到绝远的地方，这些逐水草而居的人终究要冲破文明区域的壁垒。中国北边及西北的民族，只有北匈奴曾被驱逐远窜，但一大半是靠南匈奴与西北羌胡的助力。至于任何异族的完全歼灭，在漫无涯际的沙漠旷野中全谈不到。中国因此感到只有容他们进到边地居住，给他们一种享受文明社会生活的机会，才能满足他们的欲望，减少他们不断扰边的麻烦。同时中国自己也相信夷狄移近内地易于监视控制。所以两汉魏晋数百年来中国就一贯地实行这种双方尚可满意的政策。这是中国对于外族不能捕灭、不能逐远，最多只能战胜，而往往被战败的局面之下不可避免的政策。
但中国既把夷狄迁近内地，却无通盘的计划，一任地方官摆布。地方官对他们不知牢笼，往往欺压掳掠，不只时常引起叛乱，并且使他们对中国发生恶感，时刻怨恨，因而阻止了他们华化的趋向。数十年以至数百年与中国人杂处而不同化，这是后代所绝无的例子。夷狄中最著名的被中国人欺侮的例子恐怕就是石勒。
石勒是上党武乡（今山西榆社北）人，其祖父和父亲当过部落小帅，但社会地位并不高。石勒从小在家务农，因家境贫寒，没有机会读书，目不识丁，14岁便出外谋生，曾随同族人在洛阳当小商贩，后来又当过雇工。石勒在当小贩时异常贫苦，甚至为争一块麻地与邻居李阳数次殴斗。其后并州刺史东瀛公司马腾，令将军郭阳、张隆等，虏捉诸胡，两人共锁于一枷，驱向山东（太行山以东一带）出卖。二十多岁的石勒，也在被掠卖者之中。到山东后，石勒被卖与茌平（山东茌平县）人师懽家为奴。石勒的青少年时代，就是在不断被汉人豪强驱赶、贩卖中度过的。
除以上种种因缘之外，东汉建都洛阳的失策也与五胡乱华有关系。若都长安，西北或者不致大半成为羌胡的居地；由长安方面看，并州，最少并州南部，是后方内地，或者也不致由匈奴任意蔓延占据。所以建都洛阳无论本意如何，结果等于向夷狄表示退缩，把西北与正北的国防要地拱手让人。明朝永乐皇帝为防备蒙古南侵，将国都迁到离蒙古人比较近的北京，就是出于此种考虑。建都长安不见得能永久防止胡人内侵，但建都洛阳的确给外族一个内侵的莫大便利。刘渊起事是中原正式沦丧的开始，但实际上中原的一部分，并且是国防上最重要的部分，早已成了胡人的势力。
上列种种原因虽很重要，但可说都是可轻可重的外因。根本讲来，五胡乱华还是由于政治瓦解、民气消沉的严重内因。
二 中原沦丧
由刘渊起事到元魏统一中原，中国经过一百三十六年的大乱，就是所谓五胡十六国的时代，最早发动的就是自汉宣帝以下蔓延内地的并州匈奴。所谓大晋一统的虚伪局面被立刻揭开，真正抵抗的能力全告缺乏。
怀帝永嘉三年（309年），刘渊派儿子刘聪两次进攻洛阳。永嘉四年（310年），刘渊死，刘聪继位。这时洛阳周围地区或遭破坏，或为刘聪、石勒占领，洛阳饥困日甚。掌权的东海王越，眼看洛阳难守，遂以出讨石勒为名，率领仅有的一些军队和满朝文武公卿离开洛阳，东屯项。永嘉五年（311年）三月，司马越病死。石勒率骑追司马越军，在苦县宁平城（今安徽鹿南郸城东）大败晋兵，“从骑围而射之，将士十余万人相践如山，无一人得免者”（《资治通鉴》卷八七晋怀帝永嘉五年）。同年五月，刘聪攻陷洛阳，晋王公百官及百姓死者三万多人。怀帝被掳到平阳。
但这些外族大半都受过中国文化的影响，占领中原之后就极力汉化，甚至忌讳“胡”字。后赵王朝的建立者石勒，本是入塞的羯族人。他在襄国（今河北邢台）登基做皇帝后，对自己国家的人称呼羯族人为胡人大为恼火。石勒制定了一条法令：无论说话写文章，一律严禁出现“胡”字，违者问斩不赦。可见此前中国对他们的虐待是防止他们汉化的最大原因。但“非我族类”，种族间的冲突难免。外族多年的怨气至此方得任意发泄。胡人对汉人往往故意侮辱或大规模的屠杀，汉人只好忍受。史书记载羯族军队行军作战从不携带粮草，而是掳掠汉族女子作为军粮，羯族称之为“双脚羊”，意思是用两只脚走路像绵羊一样驱赶的奴隶和牲畜。
但胡人最少有一次得了临时报复的机会。公元349年，羯赵皇帝石虎死后，其子十余人互相残杀。公元350年正月，冉闵杀死羯赵皇帝石鉴，同时杀死石虎的三十八个孙子，尽灭石氏。其后冉闵即皇帝位，年号永兴，国号魏，史称冉魏。冉闵建魏后，便颁下《杀胡令》：“凡内外六夷胡人，敢持兵仗者斩，汉人斩一胡人首级送凤阳门者，文官进位三等，武职悉拜东门。”冉闵亲自带兵击杀邺城周围的胡人，三日内斩首二十余万，尸横遍野，同时冉闵还扬言要六胡退出中原，“各还本土”，否则就将其统统杀绝。
三 汉族南迁
五胡乱华时的丧乱情形恐怕是前此内乱时所未有。许多地方的人（除一部分绝对运命论的信徒）都觉得不能再继续支持，只有另寻乐土。巧逢晋室有人见到这一层，在江东已立了新的根据地，于是中原的人士就大批地渡江避乱。
当时，琅琊王司马睿为镇东大将军，都督扬、江、湘、交、广五州诸军事，驻建邺（因避愍帝司马邺讳，改称建康，今江苏南京）。因为江南比较稳定，当权的官僚们极力设法把自己的子弟、亲属安插到江南任地方官吏，以为将来自保之地。如宰相王衍就任命其弟王澄为荆州刺史，族弟王敦为扬州刺史。在永嘉南渡时，北方的许多士族、大地主携眷南逃，随同南逃的还有他们的宗族、部曲、宾客等，同乡同里的人也往往随着大户南逃。随从一户大地主南逃的往往有千余家，人口达到数万之多。有的逃到广陵（今江苏扬州），有的逃到京口（今镇江）以南。（《晋书·王导传》曰：“洛阳倾覆，中州士女避乱江左者十六七。”）
当时流亡的情景，我们只能想象，不能详知。但由丧礼的成为问题就可知骨肉离散是如何的普遍。
方才过江的时候，一般的人还以为这不过是暂时的避难，并不是长久的迁移，但不久都渐渐觉得中原的故乡永无归还的希望。敌国外患似乎不是兴国的绝对良药，南渡之后政治的腐败、人心的麻木仍与先前一样。东晋孝武帝和司马道子，一君一相，耽于享受，官以贿迁。道子又好做长夜之宴，政事多阙。腐败的政治，加深了人民的痛苦。当时有人就曾上疏，指出：“时谷贱人饥，流殣不绝，由百姓单贫，役调深刻。”（《晋书·简文三子·会稽王道子传》）
四 南北分局
汉人渡江是出于不得已，野心较大的人总希望不久能恢复中原。东晋初年，在门阀士族忙于建立江南小朝廷的时候，著名将领祖逖毅然率军北伐。他率领旧部数百人过江。他中流击楫而誓说：“祖逖不能清中原而复济者，有如大江！”其辞色壮烈，众皆慨叹。
同时统治集团内的人实际上没有真正收复失地的能力，即或收复也没有继续保持的把握，并且一般的人也没有再回中原的意志。正当祖逖抓紧练兵，准备进军河北时，朝廷反而派戴渊为都督指挥祖逖，并扼制祖逖后路。祖逖眼见北伐功亏一篑，忧愤成疾，病死军中。
同时北方外族中的野心家却希望能克服长江的天险而吞并整个中国，但这也是时势所不许。从太元三年（378年）起，前秦开始发动对东晋的进攻，占领了梁、益二州。尽管当时前秦国内民族矛盾仍然很严重，但苻坚企图一举统一全国。苻坚自认为兵强马壮，企图“投鞭断流”。不过，他没有充分估计到前秦内部尖锐的民族矛盾和东晋的军事实力，结果在淝水之战后换得个“风声鹤唳”的下场。苻坚退回北方后，北方重新分裂。
自此，南北分立的局面渐渐确定，在很长时段内无从打破。
江南虽未受胡蹄践踏，但两千年来以中原为政治文化重心的古典中国至此已成过去。然而在此后二百年间的南北分裂、胡华对立、梵汉合流的黑暗中，却孕育着一个新的中国。