公元404年春正月，桓玄冊(cè)立妻子劉氏為皇后，劉氏是劉喬的曾孫女。自從稱帝以后，桓玄常常覺得不安心。當(dāng)年的二月，石頭城漲水，淹死了許多人，呼救聲震天，桓玄更加的害怕了。

桓玄為人過(guò)于苛刻，自以為是，大臣奏事的時(shí)候，只要有一個(gè)字不夠貼切，或者有些小錯(cuò)誤，他都會(huì)糾正過(guò)來(lái)，以示自己聰敏。

而對(duì)于朝綱呢，又不去好好的治理，案上放滿了堆積的奏表，也不及時(shí)處理。他又喜歡游獵，有時(shí)候，一天都要出去好幾次。他遷居?xùn)|宮，修建宮室，大興土木，嚴(yán)格的督促工期，朝野騷動(dòng)，許多人謀劃著想要叛亂。

桓玄派使者去加封益州刺史毛璩為散騎常侍、左將軍。結(jié)果，毛璩扣押了使者，不接受他的任命。毛璩，是毛寶的孫子。

桓玄以桓希為梁州刺史，讓他派將領(lǐng)分別戍守巴郡、巴東和巴西，以防備毛璩。毛璩傳檄文到各地，列出桓玄的各種罪狀，并且派柳約之（巴東太守）、羅述（建平太守）、甄季之（征虜司馬）擊破了桓希，然后率領(lǐng)部眾屯據(jù)白帝城。

劉裕跟著桓修（安成王、徐州刺史、兗州刺史）一同入朝面見桓玄，桓玄對(duì)王謐說(shuō)，劉裕風(fēng)骨非同常人，是豪杰之士。每次同行，桓玄都熱情的招待劉裕，賞賜也很厚重。

桓玄的皇后劉氏，她是一名非常有智慧的女性，她對(duì)桓玄說(shuō)，劉裕這個(gè)人，龍行虎步，膽識(shí)不凡，必定會(huì)有大作為，還是早點(diǎn)除去比較好。桓玄不肯，他想要借助劉裕的勢(shì)力平蕩中原。

朝見以后，劉裕與何無(wú)忌一同返回京口，開始密謀要匡復(fù)晉室。

桓弘派青州主薄孟昶出使建康，桓玄見了孟昶以后，很是喜歡他，他還在劉邁面前大大的夸獎(jiǎng)了孟昶。劉邁和孟昶向來(lái)不和，劉邁對(duì)桓玄說(shuō)，自己在京口時(shí)，從來(lái)不曾聽說(shuō)孟昶有什么過(guò)人之處。孟昶知道后，也因此懷恨在心，回到京口以后，開始慫恿劉裕起兵。

于是，劉裕、劉毅、何無(wú)忌、王叡、王懿、孟昶、劉裕的弟弟劉道規(guī)、魏詠之、檀憑之、諸葛長(zhǎng)民、河內(nèi)太守辛扈興、振威將軍童厚之，這些人合謀計(jì)劃起兵。

劉道規(guī)是桓弘帳下的中兵參軍，劉裕派劉毅跟著劉道規(guī)、孟昶一同到江北，殺了桓弘，占據(jù)了廣陵。諸葛長(zhǎng)民，他是刁逵的參軍，劉裕派他殺了刁逵，占據(jù)了歷陽(yáng)。另外，辛扈興、王叡、童厚之，他們當(dāng)時(shí)在建康，劉裕讓他們作為內(nèi)應(yīng)，約定好日期開始起兵討伐桓玄。

公元404年乙卯日，劉裕假借游獵為由，與何無(wú)忌聚集百余人，何無(wú)忌穿著傳詔服飾，自稱是皇帝的使者，他走在前面，帶著這一百號(hào)人走進(jìn)京口城，將桓修斬殺。

桓修的司馬刁弘帶著文武官員趕來(lái)，劉裕登上京口城樓，騙刁弘說(shuō)，郭昶已經(jīng)帶著晉安帝往建康趕去，自己是受晉安帝密詔，誅殺逆黨，還說(shuō)桓玄已經(jīng)被殺。刁弘等人信以為真，不再與劉裕等人對(duì)抗。

孟昶勸說(shuō)桓弘外出狩獵，等到桓弘出城以后，孟昶、劉毅、劉道規(guī)帶著數(shù)十名壯士，隨即斬殺了桓弘，劉裕又派劉毅殺了刁弘。

劉裕已經(jīng)事先安排了周安穆到建康，把起兵的事告訴了劉邁，劉邁雖然已經(jīng)答應(yīng)，但很是害怕，周安穆?lián)氖虑閿÷?，就趕緊離開了建康。

桓玄以劉邁為竟陵太守，并且向劉邁詢問(wèn)劉裕的近況，劉邁以為桓玄已經(jīng)知道起兵的事，便向桓玄坦白了劉裕的行為。

桓玄大驚，封劉邁為重安侯，后來(lái)又責(zé)怪他不扣押周安穆，讓他得已逃離，便殺了劉邁，以及作為內(nèi)應(yīng)的辛扈興、王叡、童厚之。

眾人推戴劉裕為盟主，總督徐州事務(wù)，以孟昶為長(zhǎng)史，鎮(zhèn)守京口，以檀憑之為司馬。來(lái)應(yīng)征的彭城人，劉裕都把他們編入劉鐘的部眾。

沒(méi)多久，劉裕就率領(lǐng)徐州和兗州的部眾屯兵于竹里，傳送檄文，對(duì)外揚(yáng)言：益州刺史毛璩已經(jīng)平定荊州，還說(shuō)江州刺史郭昶已奉迎晉安帝從尋陽(yáng)返回建康，鎮(zhèn)北參軍王叡占據(jù)了石頭城，揚(yáng)武將軍諸葛長(zhǎng)民已占據(jù)歷陽(yáng)。

桓玄從東宮又遷移回上宮，召侍官入侍，加封桓謙征討都督，以殷仲文替代桓修，為徐州、兗州刺史。

桓謙等人請(qǐng)求出兵攻打劉裕，桓玄認(rèn)為劉裕的部隊(duì)銳氣正盛，不愿與之交鋒，先屯兵在建康城北的覆舟山（現(xiàn)在的南京九華山），等他們部隊(duì)到來(lái)，先挫敗他們的銳氣，大軍突現(xiàn)，先讓他們驚懼，再堅(jiān)守不出，坐等他們潰散。

桓謙等人不肯，再三相爭(zhēng)要出兵，桓玄只好派頓丘太守吳甫之、右衛(wèi)將軍皇甫敷相繼往京口出兵。

對(duì)于劉裕的起兵，桓玄心中很是懼怕，有人對(duì)他說(shuō)，劉裕他們只是烏合之眾而已，不足為懼?；感贿@樣認(rèn)為，在他心中，劉裕是世之梟雄，更何況還有劉毅、何無(wú)忌等人與劉裕共同起事。

早在海西公太和五年時(shí)，袁真殺了朱憲，朱憲的弟弟朱綽去投奔了桓溫，桓溫攻克壽陽(yáng)以后，朱綽挖了袁真的墳?zāi)?，毀掉他的尸體。

桓溫大怒，要?dú)⒘酥炀b，桓沖替朱綽求情才免去一死，因?yàn)檫@事，朱綽對(duì)桓沖像父親一樣尊敬?；笡_去世的時(shí)候，朱綽也吐血而死，可以說(shuō)，朱綽他們家與桓氏是有著比較深的情誼。劉裕攻克京口以后，以朱綽的兒子朱齡石為建武參軍。

這會(huì)兒，劉裕的部隊(duì)在江乘縣與吳甫之相遇，雙方剛剛要交戰(zhàn)，朱齡石向劉裕提出來(lái)，因?yàn)樽约杭規(guī)状艿交甘系暮翊?，不想與他們兵刃相見，請(qǐng)求讓自己在軍后。劉裕也同意了他的請(qǐng)求，吳甫之是桓玄帳下的驍勇將領(lǐng)，他的部眾也非常精銳，劉裕手執(zhí)長(zhǎng)刀，大喊著沖出陣營(yíng)，將吳甫之?dāng)貧?，然后進(jìn)兵羅落橋。

皇甫敷率眾逆戰(zhàn)，檀憑之被他打敗戰(zhàn)死。劉裕進(jìn)戰(zhàn)圍攻皇甫敷，劉裕靠著大樹作戰(zhàn)，皇甫敷提著戰(zhàn)戟向他刺去，劉裕瞪大雙眼大罵，皇甫敷手一抖，沒(méi)能刺中劉裕。這時(shí)候，劉裕的部眾陸續(xù)抵達(dá)，射中皇甫敷的額頭，劉裕拔刀將他砍殺。

桓玄聽說(shuō)吳甫之和皇甫敷都已戰(zhàn)死，大驚，他趕緊找來(lái)道術(shù)之人推算一番，預(yù)測(cè)自己的成敗。然后派桓謙與何澹屯兵東陵（建康東面，在覆舟山的東北方向），派卞范（侍中、后將軍）屯兵覆舟山的西面，共有兩萬(wàn)人。

劉裕的部隊(duì)吃完飯以后，把剩下的糧食全部扔掉，以表示決一死戰(zhàn)的決心，然后進(jìn)兵覆舟山東面，先是派弱兵登山，大張旗幟作為疑兵，他們兵分幾路上山，旗幟布滿山谷。

桓玄派出的偵察兵看到后，向桓玄回報(bào)說(shuō)山上到處都是劉裕的士兵，多不勝數(shù)?；感宦牐拥目只帕?，他派武衛(wèi)將軍庾賾率領(lǐng)精銳部隊(duì)作為援兵。

桓謙的部眾大多都是北府兵，他們向來(lái)都畏懼劉裕，面對(duì)劉裕的部隊(duì)，他們毫無(wú)斗志。劉裕與劉毅兵分幾路，向桓謙的陣營(yíng)沖突，劉裕一馬當(dāng)先，將士們也都死戰(zhàn)，以一當(dāng)百，呼聲震天。當(dāng)時(shí)東北風(fēng)大起，劉裕又下令放火，煙火漫天，鼓噪之聲震動(dòng)建康城，桓謙的部隊(duì)自行潰散。

桓玄雖然已經(jīng)派兵反擊劉裕，但是心中已經(jīng)決定要離開建康，他派了領(lǐng)軍將軍殷仲文在石頭城安排了船只。當(dāng)聽到桓謙戰(zhàn)敗的消息后，便帶著數(shù)千人，揚(yáng)言說(shuō)要出戰(zhàn)，實(shí)際是帶著兒子桓昇、侄子桓濬從南掖門出城，往石頭城趕去，和殷仲文渡江而走。桓玄一天都沒(méi)吃飯，左右侍中拿出粗糧給他，桓玄咽不下去，桓昇趕緊給他拍打胸口，桓玄悲痛不已。

桓玄逃離建康以后，劉裕就要進(jìn)入建康城了，他后來(lái)雖然迎晉安帝復(fù)位，但是沒(méi)過(guò)幾年就開始鏟除異己，逐步消滅各方割據(jù)勢(shì)力，建立了南北朝時(shí)期南朝的第一個(gè)朝代：南朝宋，為了與趙匡胤建立的宋朝區(qū)分開，南朝宋也稱“劉宋”，劉裕史稱“宋武帝”。