桓温字元子，是宣城太守桓彝的儿子。未满周岁时太原人温峤见了他说：“此儿骨骼不凡，请再让他哭一下。”等到听了他的哭声，又说：“真是英才降世！”桓彝因为此儿为温峤所赏识，所以给他取名叫温。温峤笑着说：“果然如此，将来也要改作和我一姓。”桓彝被韩晁害死，泾县县令江播参与了此事。当时桓温十五岁，头枕戈矛，眼流血泪，立志报仇。到十八岁，碰上江播已死，他的儿子江彪兄弟三人居丧，把刀放进手杖，用来防备桓温。桓温谎称吊丧客人，得以进入，在守墓的庐屋里杀了江彪，然后又追杀了他的两个弟弟。时人为之称叹。
桓温为人豪迈爽朗，有雄风高节，姿貌奇伟，脸上有七颗星印。年少时同沛国刘忄炎友善，刘忄炎曾称赞他说：“桓温眼睛像紫石棱，须发如刺猬毛，是仅次于孙仲谋、晋宣王一类的人物。”被选为南康长公主的夫婿，拜为附马都尉，袭万宁男爵位，授琅王牙太守，屡迁至徐州刺史。
桓温同庾翼友善，经常在一起相约要安定天下，匡国济民。庾翼曾经对晋明帝推荐说：“桓温从小就有雄才大略，希望陛下不要把他当作平常人看待，也不要当作平常的女婿，应当像周宣王对方叔、召伯那样，委以复兴重任，让他弘扬大道、匡济时局，完成艰难事业。”庾翼死后，明帝便提拔桓温为都督荆梁四州诸军事、安西将军、荆州刺史、领护南蛮校尉、假节。
当时蜀主李势已经衰微，桓温立志灭蜀建立功勋。永和二年(346)，率军西征。当时康献太后临朝听政，桓温准备完毕后，呈上奏疏就出发了。朝廷因为蜀地险远，而桓温的兵马又少，加之深入敌境，都很担忧。从前，诸葛亮在鱼腹平沙上造有八阵图，把石头垒成八行，每行之间距离二丈。桓温看见后，说：“这是常山蛇的形状。”军中文武百官全都认不出来。等到大军驻扎彭模后，便命参军周楚、孙盛守辎重，自己带领步兵直逼成都。李势派叔父李福和从兄李权等进攻彭模，周楚等人抵御他们，李福败退逃走。桓温再次进攻李权，三战三捷，贼众溃散，从小路逃回成都。李势于是全军出动同桓温在笮桥决战，参军龚护战死，军心恐惧，打算后退，可是鼓吏却把撤退鼓敲成了进攻鼓，于是又进攻，李势全军大败。桓温乘胜追击，火烧了小城，李势连夜后退九十里，到了晋寿葭萌城。李势的部将邓嵩、昝坚劝他投降，于是李势就双手反绑，抬着棺材前来投降请罪。桓温在蜀地停留一月，推举贤才，奖励善行，伪尚书仆射王誓、中书监王瑜、镇东将军邓定、散骑常侍常琚等，都是蜀地的良才，一起任命他们为参军，百姓都心悦诚服。大军还未撤回，王誓、邓定、隗文等又反叛，桓温又讨伐平定了他们。整军旅回到江陵，晋升为征西大将军、开府，封为临贺郡公。
石季龙死后，桓温想率军北征，首先上书提请朝廷讨论水路、陆路谁更宜适，很久没有回音。桓温当时已知道朝廷倚仗着殷浩等人与自己抗衡，他很气愤，但素来又与殷浩相知，所以并不害怕他们。因为国家没有其他祸乱，他们之间才僵持了一年多，虽然有君臣之礼，实际上也只不过是相互敷衍羁绊而已，八州士众财物赋税，几乎不为朝廷所用。桓温申明要北伐，上表刚奏朝廷，大军就出发了。顺流而下，进到武昌，军队有四、五万之多。殷浩担心被桓温废除，准备谋划回避，却又想打着驺虞幡让桓温停止进军。一时间朝廷内外议论纷纷，人情震惊。简文帝当时做抚军，写信给桓温申明社稷大计，解释互相怀疑的原因，桓温当即回军还镇，向皇帝上疏说：
“我近期亲自率领所统辖的部队，想北上扫平赵魏，军队到达武昌，得到了抚军大将军、会稽王司马昱的书信，说是目前社会上是非纷纭，疑惑丛生，信中谈到形势危急，令人忧及社稷的安危。静心思索，让人惊愕不已，不解怀疑产生的原因。孤独无助，如沉深渊。我以鲁钝之材，肩负重任，虽然无与此相称的才能，但职责是平定祸乱。如今，国耻未雪，寇仇未灭，幸好遇上开明泰世，敌人又有机可乘，就是有志匹夫，尚且心怀愤慨，我又如何忍心而坐观国家的祸败呢！所以，挥戈奔驰，不敢安歇，先后上表陈情，到今天已一年多了。坦荡忠诚，公私可察，哪里又有丝毫差错，竟招来如此猜忌？这不正是奸佞之徒心怀恐惧、搬弄是非、惑乱朝政的伎俩吗？
“从前乐毅竭诚事燕，结果垂涕出奔；霍光尽忠于汉，结果受上官桀的诬告。谄言诋毁高行，奸邪败坏美德，这是历代关系社稷存亡的祸患。如今天子年轻，太后陛下以圣明贤淑之德，谦恭任贤，将国家大事托付给群臣，朝中群贤毕集，德信布于远方。再说，我家世代蒙受殊恩，服侍三朝，既不是来自异邦的客卿，又不像韩信、彭越有称王裂土的野心，可是，离间谗毁我们的流言却流布人口，传遍四方，这就是古代圣贤蒙冤悲叹于从前、而我也忧惧于眼前的原因。如今寇贼冰消云散，大事接近完成，晋朝的北方遗民正鹄立南望，效忠王室的人都慷慨奔赴道路，元凶的末日近在旦夕，而一些人横加指责，无中生有，罗织罪名，使行将灭亡的贼寇得以苏生喘息，这是最让人痛心疾首、悲伤感叹的。我虽然心中所想的只有公众，所尽忠的是国家，可是外敌还未消灭，内弊却接连产生，这便是我原本想致力国家、有所抱负的真正原因。”
朝廷升迁他做太尉，执意推让不受。
当时殷浩到洛阳修复皇室陵园，时过数年，屡战屡败，器械都耗费殆尽。桓温又进督司州，借着朝野怨情，奏请废除殷浩。从此，内外大权集于桓温一身。桓温于是统领步兵骑兵四万，从江陵出发，水军从襄阳进入均口，到南乡，步行到淅川，再向关中征讨，命令梁州刺史司马勋从子午道出兵。另一支军队进攻上洛，俘获了苻健、荆州刺史郭敬，又攻破了青泥。苻健派儿子苻生、兄弟苻雄率属下数万人，屯兵..柳、愁思土追抵抗桓温，不久就发生大战，苻生亲自冲锋陷阵，杀死桓温部将应诞、刘泓，士卒死伤数千。桓温军奋力作战，苻生军才溃败。苻雄又同将军桓冲在白鹿原交战，又被桓冲打败。苻雄于是奔袭司马勋，司马勋退驻女娲堡。桓温进军到霸上，苻雄率五千人挖深沟自卫。当地居民都安居如常不停作业，拿着牛肉和酒在大路上迎接桓温的十有八九，年迈的老人感动得流着热泪说：“没料到今日又见到了官军！”起初，桓温想依靠麦子成熟，取来作为军粮，可苻健割除麦苗，实行清野，军粮没有着落，便带着三千多名百姓撤回。明帝派侍中黄门在襄阳慰劳了大军。
起初，桓温以为自己的雄姿气概和宣帝、刘琨属于一类，有人拿他同王敦相比，他很是愤愤不平。等到这次北征回来，在北方寻到了一个手脚灵巧的老婢女，走访她，说是刘琨的婢女，一见到桓温，便潸然流泪。桓温问她缘故，回答说：“主公很像刘司空。”桓温大喜。到外面整理衣冠后，又叫来老婢女问，老婢女说：“脸很像，可惜太薄；眼睛很像，可惜太小；胡须很像，可惜太红；形体很像，可惜太短；声音很像，可惜太柔弱。”桓温于是取帽解带，酣然昏睡，不高兴了好几天。
母亲孔氏死了，他上疏请求解除官职，想到宛陵送葬，诏令不准。朝廷赠他母亲为临贺太夫人印绶，谥号敬，并派侍中吊祭，让谒者监护丧事，不到一月时间，使者到达八次，华丽的官车在路上前后相望。桓温葬罢母亲后开始视事，想修复园陵，移都到洛阳，奏表上了十余次，朝廷不许。晋升桓温为征讨大将军，都督司、冀二州诸军事，专门负责征讨事宜。
桓温派督护高武占据鲁阳，辅国将军戴施屯兵黄河上，率领水军逼近洛阳许昌，认为谯梁水道已通，请徐、豫二州兵马顺着淮水、泗水进入黄河。桓温从江陵北伐，行经金城，看见自己年轻时栽种的柳树都已十围了，感叹地说：“树尚且如此，人哪能不老！”手握枝条，泪流满面。于是渡过淮河、泗水，踏入北方境内。同诸僚属登上平乘楼，放眼远眺中原，感慨地说：“致使神州沦陷，百年间变成废墟，王夷甫等人不能不负责任！”袁宏说：“天运有兴有废，哪里就是诸人的过失！”桓温变色动容对四座说：“听说刘景升有条千斤重的大牛，咀嚼豆子多于常牛十倍，可负重行远，却不如一条瘦牛，魏武帝进入荆州后，把它杀了犒劳军士。”话的意思是以大牛比况袁宏的，座中诸人听了都大惊失色。大军驻扎伊水，姚襄在伊水北屯兵，据水而战。桓温让军队结队向前，亲自披甲，督促其弟桓冲和诸将奋勇进击，姚襄大败，自相残杀，死者数千人，越过北芒向西逃走，没被追上，这才得以逃奔到平阳。桓温大军驻扎在过去的太极殿前，不久又转移到金墉城，并拜祭了诸先帝陵墓，修复了被毁坏的陵墓，同时设置了陵园令。随即班师回朝，带着降贼周城，并把归附的三千户人家安置在长江汉水之间。派遣西阳太守黄..从黄城出击，讨伐蛮贼文庐等部，又派遣江夏相刘岵、义阳太守胡骥讨伐妖贼李弘，都大获全胜，把敌贼的首级传到了京都。桓温回师之后，司、豫、青、兖各州又陷入敌手。升平年间(357～362)，改封为南郡公，降临贺郡公为县公，把临贺郡公封给次子桓济。
隆和初年(362)，敌寇进逼河南，太守戴施出奔，冠军将军陈..告急，桓温派竟陵太守邓遐率三千人援助陈..，并想还都洛阳，向皇帝上疏请求(疏文略)，朝廷诏令说：“从前的丧乱，恍惚间已经历了六十余年，如今戎狄蛮族继续肆意施暴，眷恋西望，满怀悲叹！得知你想亲率三军，扫荡敌寇，收回中原，光复旧京，假若不是舍身忘我报国，谁能这样作呢！各方面的指挥谋划，一并托付给你了。只是北方一处荒芜破败，处处都得辛苦经营，尤其在开始时，更是举步维艰，这都是值得忧虑的。”于是改授桓温都督司、并、冀三州，因为交州、广州辽远，撤消了都督，桓温上表推辞。朝廷又加封他侍中、大司马、都督中外诸军事和假黄钺。
桓温以已经都督朝廷内外，不宜远出为理由，又上疏陈请应该立即执行的七件事：其一，当前朋党兴盛、私议沸腾，应该杜绝抑制浮言谗语，铲除它得以滋生的土壤。其二，人口稀少，赶不上汉朝的一郡，应该并官减职，使官吏长期稳定。其三，国家的行政机制不能停止和废除，常务文书案件的落实，要限制时日。其四，应该明确长幼之礼，奖励忠实、公正的官吏。其五，褒奖惩罚，应该和事实相称。其六，应该继承遵守古制，弘扬学业。其七，应该选拔设置官吏，编纂。有司都一一奏报并分头施行。不久，又加封温桓羽葆鼓吹，并替他设置左右长史、司马、从事中郎四人。他接受了羽葆鼓吹，其余的都推辞了。不久，又率水军进驻合肥。朝中又加封他扬州牧、录尚书事，派侍中颜旄去宣读圣旨，召他回京参与政事。桓温上疏陈说，以四方未定为理由，不愿回京，请求容他在外镇守，积储力量，待机北伐，成就光复大事(疏文略)。朝廷诏令不许，并再次征召他。桓温到了赭圻，朝廷下诏让尚书车灌制止他，桓温于是驻军赭圻，执意推让朝廷任职，遥领扬州牧。时值鲜卑进攻洛阳，陈..出奔，当时简文帝辅政，到洌州同桓温相会，商议征讨事宜，桓温移兵镇守姑孰。碰上哀帝驾崩，事情便不了了之。
桓温生性俭朴，每顿只吃七枚干茶果而已。可是却凭恃雄豪在朝廷专权，窥伺皇位，有非分之想。有一次他躺着对亲信说：“这样寂寞无为，将被文帝司马昭、景帝司马师所笑。”众人都不敢对答。一会儿又抚着枕头坐起来说：“既然不能流芳后世，难道就不能遗臭万年吗？”一次经过王敦的墓边，他望着墓说：“真是能干的人！真是能干的人！”他的心迹就是这样。当时有个远道而来的比丘尼，传说很有道术，她在另外的房间洗澡，桓温偷看她。只见比丘尼全身赤裸，先用刀剖腹，再砍断双脚。洗罢出来，桓温向她问吉凶，比丘尼说：“主公如果作天子，也像刚看到的一样。”
太和四年(370)，又上疏请求举国北伐。平北将军郗忄音因为疾病免官，又派桓温以平北将军、徐兖二州刺史的身份，率领兄弟南中郎桓冲、西中郎袁真和步兵、骑兵五万人，再次北伐。文武百官都到南州饯行，京师倾城而出。北伐大军进驻湖陆，进攻并活捉了慕容日韦的部将慕容忠，再进驻到金乡。当时天大旱，水道不通，就在钜野开凿三百余里的水道来通船运输，船程从清水通到黄河。慕容日韦的部将慕容垂、傅末波等率军八万抵抗桓温，在林渚大战。桓温打败了他们，随之到达枋头。先派袁真讨伐谯、梁，并开通石门来通船运输。袁真讨伐谯、梁都成功了，但不能开通石门，于是军粮竭尽。桓温烧船徒步撤退，从东燕出仓垣，经过陈留，途中凿井而饮，行军七百余里。慕容垂带八千骑兵追击，在襄邑大战，桓温军被打败，战死三万余人。桓温深以为耻，归罪于袁真，并上表废袁真为庶人。袁真怨恨桓温诬陷自己，便占据寿阳以求自保，并暗地里与苻坚、慕容日韦勾结。
简文帝派侍中罗含在山阳拿牛肉和酒犒劳桓温将士，派会稽王司马昱在涂中与桓温相会，下诏封桓温世子给事桓熙为征虏将军、豫州刺史、假节。南康公主死时，又下诏赠布千匹、钱百万，桓温推谢不受。桓温又陈请让桓熙停官三年，而且桓熙年少不宜使他任副职，朝廷下诏不许。征调扬州人筑广陵城，然后移镇广陵。当时，桓温大兴徭役为时已久，加之疾疫流行，死人几乎过半，百姓怨叹不已。袁真病死，部将朱辅拥立他的儿子袁瑾袭位。慕容日韦、苻坚都派军支援袁瑾，桓温派督护竺瑶、矫阳之等联合水军，一齐迎击他们。当时，慕容日韦的援军已到，竺瑶等在武丘同他接战，打败了援军。桓温率二万人又从广陵到达，袁瑾环城固守，桓温筑长围墙实施包围。苻坚便派部将王鉴、张蚝等率军来援救，屯兵在洛涧，先派出五千精锐骑兵驻军在淝水北岸。桓温派兄弟桓伊以及弟子石虔等迎击，大败王鉴等，袁瑾部队也随之崩溃。桓温活捉了袁瑾和他宗族数十人以及朱辅，一起送往京师斩首，袁瑾所侍养的数百流民全被活埋，并把他的妻子儿女赏给了将士。桓温因为有战功，诏令加班剑十人。在路旁驻地犒劳三军，文武官员论功行赏，各有差别。
桓温自负才力超群，早就心怀不轨，企图先在北方立功，归来后再受九锡之赏。不料遭受挫折，名声实力陡然大减，于是参军郗超进献废立之计，桓温便废掉哀帝拥立简文帝。简文帝诏令桓温依诸葛亮的例子，带着百人仪仗队入殿，赏钱五千万、绢两万匹、布十万匹。桓温大肆废除、改调朝官，杀了庾倩、殷涓、曹秀等。当时，桓温威势显赫，侍中谢安见了老远就拜揖。桓温吃惊地说：“安石，你何苦这样？”谢安说：“从来没有君拜于前，臣拜于后的。”当时桓温生有脚疾，简文帝诏令乘车上朝，见面之后，想陈述自己进行废立的本意，简文帝泪流满面，桓温惊恐得没说成一句话就出来了。
起初，元、明二帝时期，郭璞预言说：“国君不是没有后代，而是兄弟禅位。”说是成帝有儿子，却将把皇位传给弟弟。又说：“有人姓李，儿专征战。譬如车轴，脱在一面。”“儿”者，“子”也；“李”字去掉“子”便是“木”字；“车”字去轴“|”便是“亘”字，这两个字相合就是“桓”字。又说：“尔来，尔来，河内大县。”“尔来”说是自尔以来为元始之意，桓温的字便是元子；“河内大县”是指“温”。成、康二帝驾崩之后，桓姓势力开始扩大，所以连作两次预言。又说：“赖子之薨，延我国祚。痛子之损，皇运其暮。”这里的二子，指的便是元子、司马道子。桓温志在篡位，大事未成就死了，这是国家的幸运。会稽王司马道子虽然是首先扰乱晋国，但是他的死是晋国衰亡的根由之一，所以说让人哀痛。
桓温又回到白石，上疏请求归姑孰。诏令说：“天地结合，生成万物；二人同心，便无需考虑各自的利益。古代圣王全仰仗忠臣辅佐，姬旦德布四方，周朝便因此兴隆；伊尹师法皇天，商朝便得到文明教化。大司马贤德圣明，光大深远，上合天意，才华横溢，肩负国家重任，忠心辅助我一人，功德超过霍光，道德永存后世。现在晋封你做丞相，保留原大司马一职，请你留在京都，镇守社稷。”桓温决意推辞，仍然请求回归姑孰。简文帝又派侍中王坦之征召桓温入朝为相，并增封邑万户，又被拒辞。下诏因西府经袁真军败事故，军用不足，拨给世子桓熙布三万匹、米六万斛，再封桓弟为给事中。
后来简文帝病重，诏令桓温说：“我将不久于人世，足下速来，希望能够相见。快来，快来！”于是一天一夜，连发四道诏书。桓温上疏说：“圣上身体不和，已经有多日了，我得知以后诚惶诚恐，无所寄托衷情。生死盛衰是人生常理，提前防备才不会产生遗害，因此，汉高祖卧床后，吕后便前去探问谁可作相，孝武帝病重，霍光便去询问谁可继位。不顾伤心呜咽去询问身后大事，这是不顾小节、心存大局的表现。现在皇子幼稚，可是朝贤们赏识赞叹的只是谢安、王坦之，他们的才识智能也都为圣上赏识。内辅幼君，外御强寇，这是当前面临的严峻的问题，也是群臣所忧惧的，然而事情也只能这样。陛下应该明确授意，让群臣知道自己寄望何人，这样，谢安等人就会奉命竭力效忠，于公于私都有好处，至于老臣桓温，身兼大将军和宰相，更蒙受圣上垂恩，但老迈疾病，怕也不会长久，值不得您托以重任。”疏表还未等到奏上，简文帝便驾崩了，遗诏把家事、国事一并转托给桓温，依诸葛武侯、王丞相辅佐幼主的旧制。桓温起初希望简文帝临终把帝位禅让给自己，不日就能像周公旦一样临朝摄政。事情不符合他的愿望，因此很是怨愤，给兄弟桓冲写信说：“遗诏只不过让我依武侯、王公辅佐幼主的旧例罢了。王、谢二家身居要位，每天让人愤愤难平。”
到孝武帝继位时，下诏说：“先帝敕命说，‘侍大将军如侍吾’，在下命令答表时，用语要恭敬。”又诏令说：“大司马是社稷的希望所在，先帝把家事、国事托付给他，以后内外大事就由桓公决断。”又派谢安征召桓温入朝辅国，加赐前部羽葆鼓吹，带剑武士六十人，桓温执意不受。等到桓温入朝拜祭先帝陵时，又下诏说：“桓公功高望重，教诲保护朕身，因身染风寒疾病，在陵墓不必行敬拜之礼。”又命令尚书谢安等人在新亭迎接，朝中百官在大道两侧拜迎。当时已享有声望的人都恐惧失色，有人说桓温要乘此机会杀王、谢二家，因此朝廷内外恐惧。桓温到后，带着卢悚入宫，把尚书陆始逮捕后交给廷尉，责罚他怠慢的罪过。于是，去拜祭高平陵，左右亲信发觉他神色异常，上车之后，他对随从说：“先帝刚才显灵了。”却不说先帝说过什么，所以众人无人知道究竟，只见到他将要拜揖时连说“臣不敢”而已。又向左右问起殷涓的形状，回答的人说身体肥短，桓温说：“刚才也看见他在先帝身边。”起初，殷浩被桓温废除而死，殷涓很有骨气节操，再不拜访攀附桓温，却同武陵王司马..交游，因此引起了桓温疑心而被杀，但桓温始终不认识其人。至此，也见殷涓变成鬼祟，一惊而病。总共在京停留十四天，然后回到姑孰，随之卧病不起。暗示朝廷给自己加九锡，并多次催促。谢安、王坦之听说他病加重了，便秘密拖延这事。九锡诏书还未写成，人已死去，终年六十二岁。皇太后和皇帝亲临朝堂三天，下诏赐九命兖冕之服，又赐一套朝服，衣一袭，还有：东园秘器，钱二百万，布二千匹，蜡五百斤，以供丧事之用。等到下葬时，又以太宰安平献王司马孚、汉大将军霍光当年的旧制，赐九旒鸾辂，黄屋左毒县，鍂车京车，挽歌二部，羽葆鼓吹，带剑武士百人，又在前郡公封邑的基础上增封七千五百户，土地方圆三百里，赐钱五千万，绢两万匹，布十万匹，并追赠丞相。
起初，桓冲询问桓温拿谢安、王坦之怎么办，桓温说：“你们处理不了他们。”桓温知道自己在时他们不敢乱来，杀害他们又于桓冲等人无益，同时更失民望，所以停止了谋害谢、王的事。
桓温有六个儿子：桓熙、桓济、桓歆、桓..、桓伟、桓玄。桓熙字伯道，初为世子，后来因为才能低下，便让叔父桓冲领导众人。等到桓温病重，桓熙与叔父桓礻必阴谋杀死桓冲，桓冲知道后，将他们迁徙到长沙。桓济字仲道，与桓熙是同党，一起迁往长沙。桓歆字叔道，赐爵临贺公。桓..最愚蠢，分不清小麦、大豆。桓伟字幼道，平厚笃实，居守藩镇时深受人民爱戴怀念。多次持节出使，督秦、益、荆、宁、梁五州诸军事，安西将军，领南蛮校尉、荆州刺史、西昌侯，赠骠骑将军、开府仪同三司。桓玄继承了桓温的爵位，另外有传。