太和三年，李宗闵荐牛僧孺，召为兵部尚书。早期因與皇甫湜、李宗閔兩人批評宰相李吉甫，李吉甫被貶淮南節度使，李吉甫之子李德裕遂與之相惡。牛僧孺與李逢吉、李宗閔等引為一黨，李德裕亦廣結朝士以相磨軋。以牛僧孺、李德裕分別為首的兩大派系，互相爭權。牛僧孺當權時，李系官僚被放逐邊疆；李德裕當權，牛系官僚也被驅逐到邊疆。史稱“牛李黨爭”。文宗曾有“去河北賊易，去朝廷朋黨難”的感慨。後來不管牛黨或李黨都必須跟宦官合作，倚靠宦官提拔。