会稽世子司马元显执政时,桓石绥任司徒司马德文的左长史。元兴元年(402年),桓玄消灭司马道子、司马元显父子势力而掌政,桓石绥任黄门郎、左卫将军。
404年,桓玄兵败被杀后,桓石绥逃入涂中(今安徽滁州),打算聚众攻打历阳(今安徽和县),并盘据在江淮之间。
406年,桓石绥与司马国璠、陈袭于胡桃山,聚众为寇,侵扰东晋郡县,刘毅遣司马刘怀肃将其击破。
410年,桓石绥乘卢循作乱之机,自洛口(今陕西洋县)起兵,自号荆州刺史;征阳令王天恩亦自称梁州刺史,进据西城(今陕西安康市西北)。时梁州刺史傅歆就命魏兴太守傅弘之讨伐桓石绥等,将之斩杀。
桓谦亦于同年于荆州被刘道规所杀。《晋书》以桓石绥的死亡标志桓楚余党的灭亡。