年（正光五年），北地郡车金雀率羌族反魏，高平郡乱军宿勤明达攻打豳州、夏州、北华州。北海王元颢担任都督、行台讨伐乱军，羊深作为其属下的持节、通直散骑常侍、行台左丞、军司随军征伐。527年（孝昌三年），高平乱军失败，羊深回到洛阳。转任尚书左丞，加平东将军、光禄大夫。萧宝寅在关中作乱，正平郡薛凤贤响应叛乱，羊深兼任给事黄门侍郎，讨伐叛乱。528年（武泰元年），和长孙稚在潼关会师，萧宝寅败走。以功封爵新泰男。担任东道慰劳使、二徐行台。魏孝庄帝即位，羊深担任安东将军、太府卿，出任二兖行台。河阴之变，尔朱荣诛杀朝臣