洛阳，高干向东投奔时任东冀州刺史、镇东将军、乐城县侯的父亲。元子攸被立为孝庄帝后，遥除高干龙骧将军、通直散骑常侍。高干见尔朱荣杀害士人，认为天下要乱了，于是在河、济之间率河北的流民造反，受葛荣官爵，屡败齐州军马。孝庄帝不久派右仆射元罗、东道大使元欣巡抚三齐，高干兄弟都投降，高干被任为给事黄门侍郎，兼武卫将军。尔朱荣认为高干曾造反，不应担任近要官职，孝庄帝便让他解职回乡。于是招纳骁勇，以射猎自娱。尔朱荣被孝庄帝杀死后，高干驰赴洛阳，孝庄帝见之大喜，以