亲信郑俨、徐纥而清君侧，受尔朱荣赏识。在河阴之变后，尔朱荣掌握朝政，高欢被封为晋州刺史。
创业.后来北魏孝庄帝杀死尔朱荣，尔朱家族起兵讨伐孝庄帝，孝庄帝战败被杀。尔朱家族立长广王元晔为帝。高欢却没有参与这次行动。后来他设法说服尔朱兆派他统帅镇压六镇之乱得到的降兵，并带领他们前往河北。尔朱家族残暴不仁，高欢遂产生讨伐尔朱家族的想法。在此期间，尔朱兆听从慕容绍宗的建议，企图一举把高欢解决。但高欢深藏不露，使得尔朱兆与他结为兄弟，不设防备。尔朱度律废元晔，立节闵帝，封高欢为「渤海王」