已有高尚节操，在当时与琅邪王氏的王谧及太原王氏的王绥齐名。桓胤继承父亲桓嗣的爵位丰城县公，虽然出身当时权重华贵的门阀，但自己却以恬静谦退见称。桓胤初拜秘书丞，多次升迁后至中书郎、秘书监。桓胤因受堂叔父桓玄钦敬和疼爱，故于元兴二年（403年）以桓胤为中书令。同年桓玄篡位称帝，改桓胤为吏部尚书，但至次年三月刘裕就举义兵讨伐桓玄，桓玄兵败从建康西走江陵，桓胤亦跟随。直至桓玄于五月败死，桓胤才向晋廷归降。义熙元年（405年），刘毅等人攻下桓谦、桓振等人控制的江陵，迎回晋安帝，下诏大赦，独桓氏不赦，但特因桓沖