鲜于脩礼谋反后，尔朱荣带兵向东讨伐，再度进号征东将军、右卫将军、署理车骑将军，都督并肆汾云广恒六州诸军事，升任大都督，加金紫光禄大夫。魏孝明帝死后，建义元年（528年），他扶植魏孝庄帝元子攸即位，女儿大尔朱氏又成为孝庄帝的皇后。并随后发动了河阴之变，「沉胡太后及幼主于河」，诱骗王公百官二千多人至河阴（今河南孟津县），以铁骑包围，尽杀之。从而完全掌控朝政，此时“京邑士子，十无一存，率皆逃窜，无敢出者，直卫空虚，官守废旷。”封太原王。同年八月，尔朱荣镇压了葛荣领导的河北起义。尔朱荣后来也后悔自己杀戮