向武氏表达忠心。长安县令裴行俭，听说武昭仪为皇后，认为国家祸患一定从此开始，与长孙无忌、褚遂良私下议论。袁公瑜听说后，告诉了武则天的母亲杨氏，裴行俭被贬为西州都督府长史。659年七月，许敬宗派时为中书舍人的袁公瑜到黔州逼长孙无忌自缢。662年，左相许圉师的儿子许自然，打猎时践踏庄稼，田主恼怒，许自然用响箭射田主。田主到司宪台起诉，司宪大夫杨德裔不受理。西台舍人袁公瑜派人改名向唐高宗上密封奏折告发此事。许圉师横行霸道的是领兵的将军，自己是文官，没有条件横行霸道。唐高宗大怒，说：“你怨恨没有领兵？”免去了许