胡大国生于中国贵州省平塘县通州镇的一个天主教家庭，1936年进入贵阳小修院。1951年6月29日在贵阳晋升司铎，任教于贵阳神哲学院。1955年4月4日，胡大国神父被捕入狱。1958年，被判劳改十年，然后到福泉磷肥厂接受半劳改。1982年平反后任教于四川神学院，但是四年后因忠于教宗被停止教职。这时他返回贵州省，任都匀、福泉、瓮安等地神父。1987年，胡神父由天主教天水教区陆振声主教秘密祝圣为主教，教廷给予认可。胡大国主教住在贵阳南堂。1997年，南堂遭到冲击，随后被强行拆除，部分保护南堂的教友被捕及受伤，胡大