生于香港官涌上海街221号，来自建筑商之家，年幼时生活富足，1960年代电视未普及时，胡家已经拥有当时非常珍贵的电视机，家里设有乒乓球桌，有数名留宿工人。在九龙佐敦上海街长大，住处楼下就是舞厅。小时候亲眼目睹黑社会收取保护费，出于厌恶不公义，及受电影《控方证人》的大律师形象吸引，故立志读法律。胡国兴于1965年在传统名校英华书院毕业后，继而到英国伯明翰大学攻读法律，1969年取得伦敦大学学院法学硕士。曾向夏佳理学师。1969年和1970年先后取得英国与香港的执业大律师资格，1986年他还取得美国纽约州律