Bij Rode Ster won Petrović zijn eerste internationale prijs. Met de club won hij in zijn eerste seizoen de Europacup I. In de finale werd Olympique Marseille na penalty's verslagen. Hij ging zodoende de boeken in als de enige Joegoslavische trainer die het toernooi wist te winnen. Aan het einde van het seizoen nam Petrović afscheid van de club omdat hij naar eigen zeggen de druk niet meer aan kon. Na dit grote succes was hij werkzaam bij achtereenvolgend het Spaanse Espanyol, het Uruguayaanse Peñarol en de Griekse ploegen PAOK Saloniki en Olympiakos Piraeus, alvorens hij in 1994 terugkeerde bij Rode Ster. Met de club werd hij in zijn eerste seizoen landskampioen en won hij de beker van Servië en Montenegro. Hierna nam hij het roer over bij het Oostenrijkse Grazer AK in het seizoen 1995/96.