门鼓浪屿一个信仰基督教的医生家庭。黄祯祥的祖父黄和成、伯父黄植庭都是归正宗所属牧师，父亲黄衍义、叔父黄大辟则都是医生。黄祯祥4岁入读厦门鼓浪屿幼稚园，6岁进入归正宗教会开办的厦门养元小学。1922年，黄祯祥小学毕业，考入同属归正宗教会的漳州寻源书院，与曾呈奎是同班同学。1926年，黄祯祥考进福建协和大学，在此学习了1年。1927年8月，黄祯祥转入燕京大学生物系医预科学习。1929年，黄祯祥完成预科学业，进入北平协和医学院学习。1934年，黄祯祥从北平协和医学院毕业，获医学博士学位，并留在协和做内科医生和