當初，司馬昱娶了尚書令王述的堂妹，生下了長子司馬道生及弟弟司馬俞生。司馬道生粗魯急躁，品行不端，母子全都被廢黜而死。其他三個兒子，司馬鬱、司馬朱生、司馬天流，全都夭折。其他妃子近十年沒有一個懷孕的，司馬昱找人來相麵，會相麵的人都說：“這些人都生不了兒子。”司馬昱又讓相麵的人去觀察女仆女傭，有一個叫李陵容的，在紡織作坊裏，長得又高又黑，宮女們都叫她“昆侖”。相麵的人見到她後吃驚地說：“就是她！”司馬昱召她服侍起居，生下了兒子司馬昌明及司馬道子。
簡文帝立下遺詔：“大司馬桓溫依據周公的舊例，代理皇帝攝政，對年輕的兒子，能輔佐就輔佐，如果不能輔佐，君可取而代之。”王坦之拿著詔書進入宮中，在簡文帝麵前把詔書撕了。簡文帝說：“天下，是意外得來的，你有什麼不滿意的？”王坦之說：“天下，是宣帝、元帝的天下，陛下怎麼可以獨斷專行！”於是簡文帝讓王坦之修改了詔書，說：“國家之事，一概聽命於大司馬桓溫，仿照諸葛亮、王導的先例。”
簡文帝死後，群臣不敢確立繼承人，有人說讓大司馬桓溫來處理。尚書仆射王彪之堅持立太子，於是經過朝臣討論決定，太子司馬曜（字昌明）即位，是為晉孝武帝，實行大赦。
褚太後發布詔令，因為孝武帝年幼居喪，命令桓溫攝政。命令已經公布，王彪之說：“這是件大事，大司馬桓溫一定會辭讓，反而導致朝廷政務停頓，耽誤先帝安葬，我不敢遵奉，謹將詔書歸還。”於是詔令沒有實行。
起初，桓溫希望簡文帝（司馬昱即位時已經五十三歲了，兒子司馬曜即位時年僅十一歲）臨終前將皇位禪讓給自己，即使不這樣的話，也應當讓他攝政。然而到頭來什麼都沒有，他非常憤怒，便懷疑是王坦之、謝安幹的，對他們懷恨在心。孝武帝詔令謝安前去征召桓溫入朝輔政，桓溫又推辭了。
寧康元年（公元373年），孝武帝即位七個月後，桓溫才來晉見他。孝武帝詔令吏部尚書謝安、侍中王坦之到新亭（江蘇省江寧縣）迎接。這時，建康城裏人心浮動，議論紛紛，有人說桓溫要殺掉王坦之、謝安，晉室的天下就要旁落了。王坦之非常害怕，謝安則神色不變，說：“晉祚存亡，在此一行。”
桓溫抵達以後，百官夾道叩拜。桓溫展示自己的威風，道路兩旁設置重兵守衛，接見朝廷百官，即使平時有名望的人全都戰戰兢兢，驚慌失色。王坦之汗流浹背，連手版都拿倒了。謝安從容就座，坐定以後，對桓溫說：“謝安聽說諸侯有道，守衛是為了防止四鄰入侵，明公哪裏用得著在牆壁後麵安置人呀！”桓溫笑著說：“不得已而為之。”於是就命令將牆後的人撤走，與謝安笑談良久。
謝安和王坦之去見桓溫時，桓溫讓副手郗超，藏在帳幕中竊聽。然後，桓溫把他和郗超擬定好的名單（誅殺朝中異己的名單）給二人看，謝安看了一言不發，王坦之看到名單密密麻麻，說人數太多，桓溫正要提筆刪除，帳子後麵的郗超忍不住跟桓溫輕聲幾句，謝安知道這是郗超的主意。忽然，風吹開了帳子，謝安笑著說：“郗超可謂‘入幕之賓’！”謝安的玩笑話與王坦之的剛正，使得建康城裏沒有發生大規模的屠殺事件，謝安與王坦之的盡忠輔佐，最終使晉王室得以穩定。
三月，桓溫生病，在建康停留了十四天，返回姑孰（安徽省當塗縣），這一去便再也沒有回來。桓溫病重之後，暗示朝廷給加九錫，並且多次派人去催促，謝安、王坦之故意拖延，讓袁宏（桓溫北伐姚襄時，以袁宏比作大牛）草擬詔令。謝安見到了袁宏寫的草稿，就對其加以修改，因此十多天也沒有定稿。袁宏暗地裏問王彪之，王彪之說：“聽說桓溫的病情嚴重，應該不會堅持多久了，自然可以再稍微晚一點回複。”到了七月，桓溫去世。
桓溫一歲時，劉琨的外甥溫嶠見到桓溫說：“此兒骨骼不凡，再讓他哭一下。”等到聽了他的哭聲，說：“真是英才降世！”父親桓彝因為孩子被溫嶠所賞識，所以給他取名叫桓溫。
十五歲時，桓溫的父親桓彝被韓晃和涇縣縣令江播害死，桓溫睡覺時枕著刀劍，眼眶通紅，發誓報仇。
十八歲時，江播去世，江播的兒子江彪兄弟三人在居喪期間，手握刀子防備桓溫。桓溫假冒吊喪的賓客，混入葬禮中，殺死江彪兄弟三人。弑殺仇人，為父報仇，讓時人為之稱讚。他那豪爽的風采，配上魁梧的外貌，被晉室看中選為駙馬，娶了南康長公主（晉明帝司馬紹與庾亮之女庾文君的嫡長女），從此官運亨通，從琅琊太守多次升遷。
三十二歲時，桓溫坐到了徐州刺史的位置。
當庾氏家族的權臣紛紛離世後，朝廷為了避免庾氏家族在荊州形成根基，侍中何充推舉桓溫替代庾翼，而不是讓他的兒子庾爰之接管荊州。
三十四歲時，桓溫被委任為荊州刺史，掌握了長江上遊的管理權。雖然桓溫升了職，可是他不曾忘記自己的布衣好友謝奕（謝安的長兄，謝玄與才女謝道韞的父親），桓溫到了荊州後，讓謝奕擔任幕府司馬。謝奕是個酒鬼，喝醉了把頭巾一甩，又唱又叫，經常逼著桓溫陪他喝酒，桓溫受不了隻能躲進老婆的房間裏，南康長公主說：“如果沒有這個放蕩的司馬，我怎麼能見到我的郎君呢？”
謝奕的從兄謝尚（替東晉拿回傳國玉璽）奉命去安撫投靠東晉的張遇，謝尚沒能安撫成功，反被張遇所敗，被捕入獄，當時的康獻皇後（褚蒜子）是謝尚的外甥女，所以朝廷僅僅對謝尚做了降級處理。謝尚去世後，謝奕任豫州刺史，謝奕去世後，謝奕的四弟謝萬受到桓溫力挺，接管豫州（王羲之曾經寫信給桓溫勸阻）。他和郗曇奉命攻打前燕，郗曇因病後退，謝萬以為郗曇後退，是因為畏懼前燕的強大，隨即也率兵撤還，於是軍隊潰散。謝萬自己狼狽逃回，軍中將士想趁機除掉他，考慮到謝安的緣故，才沒這樣幹。謝萬逃回建康以後，穆帝下詔廢謝萬為庶人。（長兄、從兄去世，四弟被貶，為了謝家，四十多歲謝安這才“東山再起”。而謝家的輝煌，離不開桓溫的支持，不僅是謝安的幾位兄弟，謝安本人也是如此。所以，後來桓溫進入建康，對謝安的態度相對他人而言溫和許多。）
三十六歲時，桓溫滅掉成漢政權，收複成都。
這次平蜀，桓溫納了成漢皇帝李勢的妹妹為妾。妻子南康長公主，自幼是皇室長女，性格豪爽，脾氣剛烈。當她聽說桓溫納了小妾後，帶著侍女，提著刀就要來殺了李氏。李氏當時正在窗前梳妝，李氏作為自小從蜀地長大的川妹子，端莊美麗，氣質極佳。麵對著提著刀的公主，李氏麵無懼色，從從容容，對公主說：“我國破家亡，並非情願至此，今日若能殺了我，倒是隨了我的心願。”南康長公主把刀一扔，說：“我見猶憐，何況老奴”。（我見了你都覺得憐愛，何況那個老家夥呢。）
桓溫滅蜀，聲名大振，讓東晉朝廷忌憚。會稽王司馬昱啟用殷浩製衡桓溫，長江一頭一尾，雖然人心不齊，可是好歹相安無事。待到石虎死後，北方大亂，桓溫意欲北伐，朝廷為了抑製桓溫，不做回複。
四十歲時，桓溫率五萬大軍順流而下，建康大震，殷浩擔心被廢，主動避讓。司馬昱寫信給桓溫，桓溫撤軍返回。此後，殷浩兩次北伐，隻拿回個玉璽回來，損失慘重。
四十三歲時，桓溫逼迫朝廷廢掉殷浩，朝中大權盡歸桓溫。遂即進行第一次北伐，大軍直達灞上，關中晉朝老人說出了“不圖今日，複見官軍”的感慨。前秦軍堅壁清野，晉軍糧草短缺。桓溫被迫撤軍，回程途中被前秦追擊，傷亡慘重。