002年入选安徽拳击队，4年之后，他成为国家队一员，高振国为他的教练。2005年10月在南京举行的十运会中，胡青在一个前月先举行拳击项目的60公斤级小项决赛以20点之差战胜新疆对手，抡下一面金牌。翌年的全国锦标赛中，他首度成为冠军得主。同年12月的多哈亚运，他在拳击项目的60公斤级小项决赛以38:22击败蒙古对手，是中国拳击队于当届亚运所夺得两面金牌的其中一面。2007年4月，胡青在成都举行的全国锦标赛中卫冕锦标。两个月后的亚洲锦标赛中，他由于不敌南韩对手而在初赛中被淘汰出局。