八月十三日，武周长安元年（701年）间进士，累进至晋阳尉（今山西省太原市）。唐祚中兴即神龙初年，调于吏部，侍郎韦嗣立称荐，拜左台监察御史。曾参与《三教珠英》的编修，与富嘉谟、谷倚称“北京三杰”。开元八年，少微卧病中，得知富嘉谟死讯，哭而赋诗，不久亦卒。岑仲勉称少微与嘉谟之文，“诚继陈拾遗而起之一派，韩、柳不得专美于后也”。着有《吴少微集》10卷，早佚。生三子：吴隆术、吴巩、吴云。