进士春榜二甲第五名，授官中书舍人。
永乐年间.靖难之役后，明成祖即位，黄淮召对称旨，被命与解缙常在左右询政，有时至深夜，朱棣入寝，仍然赐坐到榻前对话商谈机要。同年八月，黄淮与解缙、杨士奇、胡广、金幼孜、杨荣、胡俨共七人先后进入文渊阁，黄淮改为翰林编修，之后升为侍读，专掌制敕。同年，其与解缙等奉敕撰《列女传》；另奉敕与杨士奇编撰《历代名臣奏议》。当时朝议立太子事，黄淮请立嫡长子朱高炽。储君确立后，黄淮晋升为左庶子兼侍读。永乐五年（1407年），解缙被罢免，黄淮进右春坊大学士，次年