盡管沒能得到劉裕的支持，但劉牢之還是決定起兵反抗桓玄。沒辦法，必須保住自己的軍權和頭銜啊。但這時手下的眾將都不依了，就連以前一直支持他的參軍劉襲（注：這位應該是他的同宗），也出口反對“世上最大的事莫過於造反了，你先前殺了王恭，接著又背叛了司馬元顯，現在又要三叛桓玄，這世上還有你的立足之地嗎？”（《晉書-劉牢之傳》）
劉襲口中隱諱的意思就是你和曆史上的三姓家奴呂布也差不多了吧，到最後難免落得一個身死的下場，說完就離場而去。
劉牢之先早令兒子去往京口接自己的家眷，免得落於別人之手，可是劉敬宣老是不回來，劉牢之就以為兒子已經被人給殺了，加上他現在可以稱得上眾叛親離，憂慮之下，一時想不開，居然上吊自殺了。（《晉書-劉牢之傳》）
桓玄知道後把劉牢之的屍體從墳墓中挖出，斬首棄屍，並大舉屠殺北府軍高層將領。這人先投降自己，再被自己剝奪權力，然後背叛自己，最後還沒怎麼打就自殺了。慫成這樣，不辱不行啊。
後來劉裕起兵反對桓玄，念著以往劉牢之對他的提拔之恩，不僅給他收屍（此時劉敬宣逃亡南燕），還恢複了劉牢之的官爵名聲。（注：出自《晉書-劉牢之》）
劉牢之死後，桓玄便派自己的兄長桓修任撫軍大將軍，坐鎮丹徒。桓修念及劉裕沒有參與劉牢之的叛亂，加上劉裕在京口一帶有著很高的聲望，便重新任命他為自己的中軍參軍，就連以前所擔任的建武將軍，下邳太守這兩個職位又還給了他。
劉裕先是和劉牢之劃清界線，解甲歸田，不僅免除了可能的血光之災，接著還能繼續得到掌權的桓氏重用，他的精明的頭腦和先見之明又一次起了作用，可見劉裕早期在軍中沉寂的幾年確實有非常大的長進。
《韓非子·喻老》中記載，南方有大鳥，三年不鳴，一鳴驚人，三年不飛，一飛衝天。劉裕此時不僅在軍事上有著別人無法比擬的統兵才能，在政治上的智慧也絲毫不弱於別人，起碼就比軍事人才、政治蠢才的劉牢之要強了百倍。
劉裕把政治和人情分得很清楚，現在朝中掌權的桓氏能夠重用於他，他馬上就接了新任命前去鎮壓孫恩的餘黨。
孫恩自從第四次敗退之後，因為海島物資貧乏，發起了第五次進攻，可是這次孫恩的運氣就沒麼好了，他就被臨海太守辛景打敗了，他知道以自己的罪責，如果被晉朝的官兒抓住了，到時想死也死不了，一時想不開，居然投海自盡了。（注：《晉書。孫恩傳》）
孫恩死後，五鬥米教的餘黨便推舉了他的妹夫盧循做了繼任天師，此時的桓玄剛剛控製朝政，不想在東南邊上再起波瀾，就下令招撫盧循，任命他為永嘉太守（注：今漸江溫州），而盧循出於＂長生人＂的首領剛剛身死，人心不穩，部眾也是損失慘重，重整旗鼓也是需要時間的，就同意朝廷的任命。但他雖然去往永嘉上任，但卻不受朝廷節製，時不時的還要出去打劫一番。（注：出自資治通鑒，一一二卷，“循雖受命，卻寇暴不止＂）