生子，神武帝高欢之异母弟。年少时便已擅长弓马，为人有志气。高欢已经匡扶天下后，于北魏中兴元年（531年），授高琛散骑常侍、镇西将军、金紫光禄大夫等职位。高琛已经居于禁衞，为人恭勤缜密，率先左右。太昌元年（532年），除车骑大将军、左光禄大夫，封为南赵郡公，食邑五千户。再拜为骠骑大将军、特进、开府仪同三司、散骑常侍。永熙二年（533年），除使持节、都督定州刺史、六州大都督。高琛为人推诚抚纳，提拔名士，甚有声誉。其后斛斯椿等挑衅结仇，高欢即将定谋向内讨伐，以晋阳为根本，召高琛留掌后方事务，以为并、肆、汾