劉聰攻下長(zhǎng)安后，南方還在晉朝官員手里。晉愍帝在被俘前留下詔書，要鎮(zhèn)守在建康（原名建業(yè)，今江蘇南京市）的瑯琊（音ｌáｎｇｙá）王司馬睿（音ｒｕì）繼承皇位。

司馬睿在西晉皇族中，地位和名望并不高。晉懷帝的時(shí)候，他被派到江南去鎮(zhèn)守。他帶去了一批北方的士族官員，其中最有名望的是王導(dǎo)。司馬睿對(duì)王導(dǎo)言聽(tīng)計(jì)從，把他看作知心朋友。

司馬睿剛到建康的時(shí)候，江南的一些大士族地主嫌他地位低，不怎么看得起他，也不來(lái)拜見(jiàn)他。為了這個(gè)，司馬睿心里不踏實(shí)，要王導(dǎo)想個(gè)辦法。

王導(dǎo)有個(gè)堂哥王敦，當(dāng)時(shí)在揚(yáng)州做刺史，很有點(diǎn)勢(shì)力。王導(dǎo)把王敦請(qǐng)到建康，兩個(gè)一商量，想出一個(gè)主意來(lái)。這年三月初三，按照當(dāng)?shù)氐娘L(fēng)俗是禊（音ｘì）節(jié)，百姓和官員都要到江邊去“求福消災(zāi)”。這一天，王導(dǎo)讓司馬睿坐上華麗的轎子到江邊去，前面有儀仗隊(duì)鳴鑼開(kāi)道，王導(dǎo)、王敦和從北方來(lái)的大官、名士，一個(gè)個(gè)騎著高頭大馬跟在后面，排成一支十分威武的隊(duì)伍。

這一天，在建康江邊看熱鬧的人本來(lái)很多。大家看到這種從來(lái)沒(méi)見(jiàn)到過(guò)的大排場(chǎng)，都轟動(dòng)了。

江南有名的士族地主顧榮等聽(tīng)到這個(gè)消息，從門縫里偷偷張望。他們一看王導(dǎo)、王敦這些有聲望的人對(duì)司馬睿這樣尊敬，大吃一驚，怕自己怠慢了司馬睿，一個(gè)接一個(gè)地出來(lái)排在路旁，拜見(jiàn)司馬睿。

這一來(lái)，提高了司馬睿在江南士族地主中的威望。王導(dǎo)接著就勸司馬睿說(shuō)：“顧榮、賀循是這一帶的名士。只要把這兩人拉過(guò)來(lái)，就不怕別人不跟著我們走。”

司馬睿派王導(dǎo)上門請(qǐng)顧榮、賀循出來(lái)做官，兩個(gè)人都高興地來(lái)拜見(jiàn)司馬睿。司馬睿殷勤地接見(jiàn)了他們，封他們做官。

打那以后，江南大族紛紛擁護(hù)司馬睿，司馬睿在建康就站穩(wěn)了腳跟。

北方發(fā)生大亂以后，北方的士族地主紛紛逃到江南來(lái)避難。王導(dǎo)又勸說(shuō)司馬睿把他們中間有名望的人都吸收到王府來(lái)。司馬睿聽(tīng)從王導(dǎo)的意見(jiàn)，前前后后吸收了一百零六個(gè)人，在王府里做官。

司馬睿聽(tīng)從王導(dǎo)的安排，拉攏了江南的士族，又吸收了北方的人才，鞏固了地位，心里十分感激王導(dǎo)。他對(duì)王導(dǎo)說(shuō)：

“你真是我的蕭何啊！”

公元３１７年，司馬睿在建康即位，重建晉朝。這就是晉元帝。在這以后，晉朝的國(guó)都在建康。為了和司馬炎建立的晉朝（西晉）相區(qū)別，歷史上把這個(gè)朝代稱為東晉。

晉元帝登基的那天，王導(dǎo)和文武官員都進(jìn)宮來(lái)朝見(jiàn)。

晉元帝見(jiàn)到王導(dǎo)，從御座站了起來(lái)，把王導(dǎo)拉住，要他一起坐在御座上接受百官朝拜。

這個(gè)意外的舉動(dòng)，使王導(dǎo)大為吃驚。因?yàn)樵诜饨〞r(shí)代，是絕對(duì)不允許有這樣的事的。王導(dǎo)忙不迭推辭，他說(shuō)：“這怎么行。如果太陽(yáng)跟普通的生物在一起，生物還怎么能得到陽(yáng)光的照耀呢？”

王導(dǎo)這一番吹捧，使晉元帝十分高興。晉元帝也不再勉強(qiáng)。但是他總認(rèn)為他能夠得到這個(gè)皇位，全靠王導(dǎo)、王敦兄弟的力量，所以，對(duì)他們特別尊重。他封王導(dǎo)擔(dān)任尚書，掌管朝內(nèi)的大權(quán)；又讓王敦總管軍事。王家的子弟中，很多人都封了重要官職。

當(dāng)時(shí)，民間流傳著一句話，叫做“王與馬，共天下”。意思就是王氏同皇族司馬氏共同掌握了東晉的大權(quán)。

王敦掌握軍權(quán)，自以為了不起，把晉元帝不放在眼里。晉元帝也看出了王敦的驕橫，另外重用了大巨劉隗和刁協(xié)，對(duì)王氏兄弟漸漸疏遠(yuǎn)起來(lái)。這樣，剛剛建立的東晉王朝內(nèi)部就出現(xiàn)了裂痕。