4年参加雅典奥运男子组第二量级（68公斤级）比赛，将第一量级礼让给朱木炎，他在决赛中以3:4败给伊朗队的哈迪，为台湾拿下该届奥运会的第二面银牌，而朱木炎夺得奥运金牌，成为美谈。夺牌后宣佈退役而不再参赛。2004年，黄志雄在第六届立法委员选举中，被中国国民党提名为不分区立法委员第三顺位，并当选。2008年中华民国立法委员选举黄志雄被中国国民党提名参选台北县第五选区（台北县莺歌镇、树林市及新庄市九里），并成功由不分区转战区域立委，击败甫由台联加入民进党的时任立委、前树林市长廖本烟，后于2012年中华民国立法