李玙先后休弃一妻一妾。开元年间，张嘉贞、王晙、张说、萧嵩、杜暹等皆以节度使之职入朝知政事。李林甫欲杜绝“出将入相”之源，尝奏曰：“文士为将，怯当矢石，不如用寒族、蕃人，蕃人善战有勇，寒族即无党援。”自是高仙芝、哥舒翰皆专任大将，李林甫利用这些人不太识文字，无法入相，以巩固自身的权力，但此举使安禄山趁机乱阶，间接造成安史之乱爆发。因与杨国忠相恶，死后为国忠所构陷，追夺官爵，时人以爲冤。
和文人的关系.《新唐书》和《资治通鉴》均载李林甫“尤忌文学之士”。《新唐书》称天宝六年他操纵科