Med gjenopprettet autoritet i de lombardiske provinsene vendte Otto II sin oppmerksomhet mot trusselen fra det muslimske Sicilia. Siden 960-årene hadde øya vært under muslimsk styre som emiratet Sicilia, en stat i fatimidkalifatet. Lederskapet i kalbid-dynastiet hadde gjennomført angrep mot imperiets områder i Sør-Italia. Pandulfs død i 981 tillot den sicilianske emiren Abu al-Qasim å angripe mål i Apulia og Calabria. Så tidlig som i 980 Otto II krevde en flåtestyrke fra byen Pisa for å bistå i krigen mot muslimene i Sør-Italia og i september 981 marsjerte sørover i Italia. Ettersom han trengte allierte i sin kamp mot muslimene og Det bysantinske riket forsonet Otto II seg med hertug Manso I og ga ham imperiets anerkjennelse av hans styre i Salerno.