虞卿之后，随其祖杨邸挈族寓居宋州（今河南商丘县南）。少好学文，躬履俭约。宋太宗端拱二年（989年）进士，历光禄寺丞，知新昌县，直集贤院，因不附权贵，二十七年未升迁。大雅称：“吾不学乎世而学乎圣人，所以致此。”天禧年间，奉使淮南，遇大风翻船，冠服尽失。当时丁谓人在金陵，派人赠衣一袭，不受。累官提点淮南路刑狱，历知制诰，终官亳州知县。有女嫁欧阳修，杨大雅曾为《新唐书》写序。有《大隐集》五十卷、《职林》二十卷、《两汉博闻》十二卷及《西垣集》等。