，道光十五年（1835年）进士，授礼部主事，充军机章京，累迁郎中。道光三十年，迁御史。咸丰三年（1853年），迁兵科给事中。同年，赴安徽帮办团练，受漕运总督周天爵重用，不久，周天爵病死行军途中之王市集，甲三代领其军，四年二月，入据临淮。次年擢左副都御史。和春、福济参劾袁甲三渎职，“擅裁饷银，冒销肥己”，朝廷命甲三解职回京。五年，袁甲三回京，呈诉和春、福济为诬告，朝廷令两江总督怡良秉公查办，袁甲三被申饬一事得到平反。咸丰六年（1856年）随河南巡抚英桂攻捻军，直攻到捻军的大本营雄河集，生俘捻首苏天福，捻军尸骸