靳準打算起事，他私下裏對劉粲說：“我聽說公卿們準備像商代伊尹、漢代霍光那樣代攝朝政，先殺掉太保呼延晏和我，讓大司馬劉驥總管朝政，陛下應防患於未然。”劉粲沒有聽從。
靳準害怕，又讓皇太後和皇後二位靳氏勸說，劉粲於是先下手為強。拘捕了太宰劉景、大司馬劉驥、劉驥的同母弟弟車騎大將軍吳王劉逞、太師劉凱和大司徒齊王劉勱；他們全被斬首了。
八月，劉粲在上林苑練兵，準備征討石勒。讓丞相劉曜擔任相國，朝廷軍務都由他監管，仍然鎮守長安。任靳準為大將軍、錄尚書事。劉粲經常在後宮遊玩宴飲，國家大事一概不管，而由靳準裁定。靳準偽造詔令，讓堂弟靳明任車騎將軍、靳康為衛將軍。
靳準想與年長有德的金紫光祿大夫王延合謀發動政變。王延不肯加入，騎馬準備去告發他，路上遇見靳康，被抓了回來。靳準於是領兵登上光極殿，派甲兵抓住劉粲，細數他的罪行隨即斬了他，諡號隱帝。
劉氏族人一個不留全被殺了。靳準又挖掘永光、宣光兩座陵墓，用刀砍劉聰的屍體，焚燒了劉氏宗廟。靳準自稱大將軍、漢天王，執軍權，設置百官。
靳準對安定人胡嵩說：“從古至今，當天子的沒有一個胡人，現在我把傳國玉璽交給你，還給晉王室。”胡嵩不敢接受，靳準很生氣，把他殺了。
靳準派使者告訴司州刺史李矩說：“劉淵是匈奴屠各部的小醜，乘天下大亂時，假稱天命，使得晉懷帝、晉湣帝被俘身死。我立即率領大家扶持二帝梓宮送回南方，懇請通知晉朝皇帝。”
李矩趕緊上報晉元帝司馬睿，司馬睿派太常韓胤等人奉迎梓宮。
劉漢尚書北宮純等招集晉人，靳康攻克他們在東宮設立的防護牆。靳準想讓王延任光祿大夫，王延大罵說：“屠各部的逆賊，為何不盡早砍了我而押我到現在？把我的左眼放在西陽門，以看被大將軍石勒攻克的場麵；把我的右眼放在建春門，好看大將軍石勒攻進來！”靳準就把他殺了。
相國劉曜聽聞朝廷有人起事，從長安趕來救難。石勒也率領5萬精兵討伐靳準，占據了襄陵以北的平原。靳準多次挑戰，石勒堅守不出，以靜製動，避開其鋒芒。
十月，劉曜到達赤壁。太保呼延晏等人從平陽前來歸附，與太傅朱紀等共同尊奉劉曜為帝。劉曜於是即位，大赦天下，唯獨靳準一族不被赦免。
靳準為求和，派侍中卜泰贈送財物給石勒。石勒囚禁了卜泰，把他押送到劉曜那裏。
劉曜對卜泰說：“先帝劉粲末年，其行為確實有違仁道。大司空靳準像伊尹、霍光那樣，使朕登上皇位，功勞很大。他如果能早些迎接大駕，我將把朝政事務都托付於他，何況免除一死呢？你替朕進城，向靳準解釋我的意思。”
卜泰回到平陽，靳準因為殺了劉曜的母親、兄弟，所以心裏猶豫，最終沒有答應。
十二月，左、右車騎將軍喬泰、王騰和衛將軍靳康等人合謀殺了靳準，把尚書令靳明擁立為皇帝，派卜泰帶著傳國的六顆璽印投降劉漢。
聞雞起舞
範陽人祖逖，年少時就有宏圖大誌。他和劉琨一起擔任司州主簿，與劉琨一起睡覺，夜半時聽到雞叫，就把劉琨踢醒，說：“多美妙的聲音啊。”於是起床舞劍。
逢亂渡江以後，左丞相司馬睿讓他擔任軍谘祭酒。祖逖住在京口，招募勇猛健壯的士兵。
他對司馬睿說：“晉朝的變亂，不是因為君主無道使百姓怨恨反叛，而是因為皇室內部爭權奪利，自相殘殺，結果讓戎狄鑽了空子，殃及中原。
“現在晉朝的遺民遭到殘害以後，個個都想振興中原朝廷，大王如果真能夠派遣將領調動軍隊，讓像我這樣的人統率他們來光複中原，各地的英雄豪傑必定會追隨的！”
司馬睿向來沒有打算北伐，他聽了祖逖的話後，就任命祖逖為奮威將軍、豫州刺史。但隻撥給他1000人的口糧、3000匹布，不供給兵器，讓他自籌。
祖逖帶領100多戶人家過長江，到江心的時候，斬槳發誓，說：“我如果不能廓清中原，再渡江回來，就以死謝罪！”於是駐紮在淮陰，建造熔爐冶煉兵器；又招募了兩千多人後繼續前行。
當初，流民張平和樊雅在譙地都有幾千名手下，自任塢堡堡主。司馬睿擔任湣帝丞相的時候，曾經派遣行參軍桓宣前去勸說張平、樊雅，於是，二人歸順了司馬睿。豫州刺史祖逖出兵以後，派遣參軍殷義拜見張平和樊雅。
殷義輕視張平的貧寒，看著張平的房屋，說：“可以當馬房。”看見大鍋，又說：“可以鑄鐵器。”
張平說：“這是帝王的鍋，隻有等到天下太平，它才會發揮作用，怎麼能毀壞它！”
殷義說：“你小命都不保，還吝惜鐵鍋嗎？”
張平很生氣，在座位上斬殺了殷義，率領軍隊固守。
祖逖攻打了他們一年多，也沒拿下他們。祖逖於是誘降張平的部將謝浮，讓他殺掉張平，然後進軍占據太丘。
當時樊雅還占據著譙城，抵抗祖逖。祖逖久攻不下，故此請求南中侍郎派兵增援。桓宣當時擔任王含的參軍，王含派遣桓宣率領500人援助祖逖。祖逖對桓宣說：“對方已深知你的深明大義，這次請再為我勸說樊雅。”
桓宣於是一個人騎馬，隻帶兩個隨從，前去見樊雅說：“祖逖正打算討平劉聰、石勒，要倚仗你為後援。上次殷義傲慢輕率，祖逖並沒有要他如此。”樊雅立即前去拜見祖逖，請求歸降。