及后让桓温进位太尉，但桓温辞让不拜。随后两年，殷浩都有率兵进行北伐，但没有成果，反倒屡次战败，军需物资更被略夺殆尽，令朝野怨恨。永和十年（354年），桓温趁机上奏列举殷浩罪行，逼使朝廷废殷浩为庶人。桓温开始掌权。
三伐中原.桓温分别于354年、356年及369年发动北伐北方十六国的战役。但除了第二次北伐成功收复洛阳，其余两次皆被击退，成效不大。
北伐前秦.永和十年（354年）二月，桓温奏免殷浩后不久便发动第一次北伐，亲率步骑四万余人进攻武关，水军直指南