始初向沛国刘瓛学习，学《易经》及《礼记》、《毛诗》。又入钟山定林寺学佛典，精通内外典籍，深得刘瓛赏识。何胤性情任情纵诞。在齐朝，起家任秘书郎，转任国子博士、太子舍人，出任建安郡太守，为政有恩信，人不忍欺，每年伏天、腊月放囚犯回家，囚犯依期而反。入朝为司徒主簿、中书郎、太子中庶子、领国子博士，继王俭、张绪之后，撰定新礼。齐武帝永明十年（493年），官至侍中、领步兵校尉，转任国子祭酒。萧昭业即位，命他任左民尚书、中书令。领临海、巴陵王师。隆昌元年（494年）何胤是何皇后的堂叔，萧昭业非常亲近信任他，让他在殿