桓伊，字叔夏。父桓景，有用世济时之才干，官至侍中、丹杨尹、中领军、护军将军、长社侯。
桓伊有军事才略，聪慧过人，简朴真率，为王氵蒙、刘忄炎所器重，多次参与各州府军事，累迁大司马参军。当时前秦苻坚强盛，边郡多战事，朝廷选拔能御敌边疆的将帅，桓伊当选，被任命为淮南太守。因抚军御敌有方，晋升为都督豫州之十二郡扬州之江西五郡军事、建威将军、历阳太守，淮南太守之职依旧保留。与谢玄联合打败贼兵偏将王鉴、张蚝等，以战功封为宣城县子，又晋升为都督豫州诸军事、西中郎将、豫州刺史。及至苻坚率部南侵，桓伊与冠军将军谢玄、辅国将军谢琰一道在淝水一带大败苻坚，以战功封为永修县侯，晋号右军将军，赐钱百万，做袍表的布帛千端。
桓伊生性谦逊朴素，虽建有大功，但其性格作风始终未改。善于音乐，能曲尽其妙，为江左国朝第一。藏有一把蔡邕柯亭笛，常常自吹自赏。王徽之应召赴京师，行舟停泊在青溪侧。桓伊与王徽之素不相识。桓伊从岸上路过，舟中客人称桓伊乳名道：“此人就是桓野王。”王徽之便叫人上岸对桓伊说：“听说足下善于吹笛，请试为我吹一曲。”桓伊当时已经显贵，也曾闻知王徽之的声名，便默默下车，坐在交椅上，为王徽之吹奏三调，吹罢，便起身上车离去，主客之间一句话也未交谈。
其时谢安女婿王国宝专权擅利行为不检，谢安讨厌其为人，常对他加以约束限制。孝武帝到晚年，嗜酒成性，且好女色，而会稽王司马道子更是昏淫无度，惟亲近谄邪小人，于是王国宝恶毒谗言害人奸计往往得逞于君臣之间。而好利邪谄不正之徒忌恨谢安功名盖世，便挑拨离间，使天子贤相之间疑心渐重矛盾愈深。孝武帝召桓伊饮宴，谢安侍坐于旁。孝武帝命桓伊吹笛。桓伊神色顺从，即刻拿起笛吹奏了一曲，然后放下笛子说：“愚臣弹筝不及吹笛，但也足以自成乐调，配合歌唱，请允许愚臣弹筝歌唱，并请一人来吹笛。”孝武帝欣赏其乐调和谐通畅，便命令内宫歌妓吹笛伴奏。桓伊又说：“内宫歌妓与愚臣必定配合不好，愚臣有一奴仆，善于配合吹奏。”孝武帝更加欣赏其性情的放达直率，便允许他召来奴仆。奴仆吹奏笛管，桓伊便弹筝而歌唱《怨诗》道：“为君既不易，为臣良独难。忠信事不显，乃有见疑患。周旦佐文武，《金滕》功不刊，推心辅王政，二叔反流言。”其声调节奏慷慨悲怆，上下共赏，感人心弦。谢安不禁抽泣流泪以致沾湿了衣襟，起身坐到桓伊旁，用手理顺桓伊的长须道：“仅就此举足见足下不同于常人！”孝武帝面露愧色。
桓伊治理豫州十年，安抚边郡百姓，甚得人心。桓冲去世后，朝廷任命桓伊为都督江州荆州十郡豫州四郡军事、江州刺史，将军职号不变，持符节。桓伊到江州镇所，以为边境平静无战事，应以宽慰抚恤为当务之急，便上疏朝廷认为江州虚损过大，加上连年歉收，如今所剩住户只有五万六千，应合并小县，免除各郡拖欠的官米，将州府治所迁到豫章。诏令将州府治所移迁到寻阳，其余主张皆依从桓伊。桓伊顺理荒政，拯济抚恤灾民，百姓信赖。在地方任职多年后，朝廷征召回京，拜官为护军将军，以右军府中千人跟随桓伊，配备到护军府中。桓伊死于任职上。朝廷追赠为右将军，加散骑常侍，谥号为烈。
当初，桓伊有马军步军铠甲六百套，预先写好奏表，让亲信在他死后呈上朝廷。奏表说：“臣深受朝廷恩宠，受命经略西藩。淮南大战时，敌寇仓惶北逃，人马器械，随处抛弃。当时收集了许多残破不全的器械，无法连贯一体加以使用。经过多年修理，现已全部修整完好。当今天下虽然大体一统，但余寇仍未消灭净尽，臣不甘心老朽衰迈，还想献力献策拼死效命，上报皇恩。这一志向再也不能伸展，臣在九泉之下含恨悲伤。谨以此马军装备百具，步军铠甲五百套奉献朝廷，皆放置于寻阳，请勒令有关部属前往领受。”朝廷降诏道：“桓伊忠诚报国，大志不遂，令人伤怀，遵其遗志接受所上铠甲马装。”
桓伊去世后，其子桓肃之承袭爵位。桓肃之去世后，其子桓陵袭爵。刘裕接受禅让建立刘宋后，其封地被取消。桓伊之弟桓不才，也具有用兵的谋略，讨伐过孙恩，官至冠军将军。