何胤是司空何尚之的孙子，宜都太守何铄的儿子。何点之弟。何胤长大后好学，开始初向沛国刘瓛学习，学《易经》及《礼记》、《毛诗》。又入钟山定林寺学佛典，精通内外典籍，深得刘瓛赏识。何胤性情任情纵诞。在齐朝，起家任秘书郎，转任国子博士、太子舍人，出任建安郡太守，为政有恩信，人不忍欺，每年伏天、腊月放囚犯回家，囚犯依期而反。入朝为司徒主簿、中书郎、太子中庶子、领国子博士，继王俭、张绪之后，撰定新礼。齐武帝永明十年（493年），官至侍中、领步兵校尉，转任国子祭酒。萧昭业即位，命他任左民尚书、中书令。领临海、巴陵王