幽州（今北京）后，七世合居。祖父高崇文，是唐宪宗时期名将，世代为禁军将领。唐懿宗初年，高骈在边疆统兵防范党项及吐蕃，授秦州刺史。后任侍御史，又于朱叔明幕府兼任司马，精通射箭，曾射「一箭双雕」，被称为“落雕侍御”。咸通五年（864年），安南（今越南）被南诏所侵，朝廷任高骈为安南都护经略招讨使，前往安南对南诏作战。高骈击败南诏。七年（866年），高骈镇守安南，为交趾节度使，曾整治安南至广州江道。九年（868年）召回长安，为右金吾大将军，推荐侄孙高浔继任。又任天平军节度使，有政绩，唐僖宗继位后授宰相衔同中书门