李百药仕太子舍人、东宫学士。隋炀帝时仕桂州司马职，迁建安郡丞。唐朝以后，拜中书舍人、礼部侍郎、散骑常侍。人品耿直，曾直言上谏唐太宗取消诸侯，为太宗采纳。李百药先后于唐太宗贞观元年（627年）和三年（629年）两次奉诏继续完成父撰遗稿，并参考了隋朝史家王劭所撰编年体《齐志》。《齐书》成书于贞观十年（636年），经历了三个朝代（北齐、隋、唐）、共六十多年时间。《齐书》在宋朝后为了区别萧子显的《南齐书》改为《北齐书》。