欢却没有参与这次行动。后来他设法说服尔朱兆派他统帅镇压六镇之乱得到的降兵，并带领他们前往河北。尔朱家族残暴不仁，高欢遂产生讨伐尔朱家族的想法。在此期间，尔朱兆听从慕容绍宗的建议，企图一举把高欢解决。但高欢深藏不露，使得尔朱兆与他结为兄弟，不设防备。尔朱度律废元晔，立节闵帝，封高欢为「渤海王」，并征其入朝。高欢清楚其中有诈，拒不接受。不久之后，高欢在信都起兵，拥立自己辖区的宗室勃海太守元朗为帝以便号令天下，正式讨伐尔朱氏。经过一年的战斗，高欢击败了尔朱兆、尔朱世隆、尔朱彦伯、尔朱天光、尔朱度律、尔朱仲远等