I 1174 var han atter i Italia med en ny hær, men ble beseiret i 1176 i slaget ved Legnano. Barbarossa måtte deretter slutte fred med paven, der han lovet våpenhvile i seks år med de lombardiske statene og i 15 år med kongeriket Sicilia. I 1183 ble det i Konstanz sluttet fred med de italienske bystatene, hvorved de ble tillatt å selv velge sine styresmenn. Han hadde derimot bedre fremgang i kampen mot det welfske partiets fremste mann, Henrik Løve. I 1180 klarte han å få frarøve ham de to hertugdømmene Bayern og Sachsen.