I 1992 dro Mihajlović til Italia for å spille for AS Roma. Han spilte to sesonger i Roma, der klubben kom på tiende- og syvendeplass i Serie A. I 1994 gikk han til Sampdoria. Han ble der i fire sesonger, og i dette tidsrommet lå Sampdoria stort sett midt på tabellen. De hadde større suksess i de europeiske klubbturneringene, og nådde blant annet semifinalen i cupvinnercupen i 1995, der de ble slått ut av Arsenal FC. I juni 1998 spilte Mihajlović for Jugoslavia under VM 1998, der han spilte alle landets kamper i turneringen. Han scoret et mål mot , og lagde selvmål mot .