后唐年间，卢文进任昭义军节度使，具礼币招纳高越为宾客。卢文进改任安远军节度使，高越也随行，被任为掌书记。卢文进次女才貌双全，能作文，时人号为女学士，高越爱慕，谒见卢文进，卢文进把她嫁给高越。
效力南唐.清泰三年（936年），后晋在契丹支持下灭后唐。卢文进南下投奔吴国，高越随行。他们先投靠武昌军节度使张宣，高越久不被张宣所知，就以鹰为题作诗讥讽张宣。高越到吴都城广陵后，被吴以为秘书郎。摄政徐知诰爱其文章。时徐知诰被封齐王，建立齐国，祷祀燕饯之文多是高越所撰。徐知诰改名李昪