Nikolić spielte erstmals 1979 bei der Jugoslawischen Meisterschaft mit und teilte Platz 2 bis 4. Ein Jahr darauf gewann er die Landesmeisterschaft und wiederholte 1984 seinen Erfolg. 1980 spielte er erstmals für die jugoslawische Nationalmannschaft auf der Schacholympiade auf Malta, im selben Jahr erhielt er von der FIDE den Titel "Internationaler Meister" verliehen. 1983 wurde er Großmeister und gewann im selben Jahr das Turnier von Sarajevo. 1984 siegte Nikolić in Novi Sad, 1986 in Reykjavík, 1987 wieder in Sarajevo. Beim Interzonenturnier von Zagreb verpasste er nur knapp die Qualifikation zum Kandidatenturnier und wurde geteilter 4 bis 6. 1989 gewann er gemeinsam mit Viswanathan Anand, Zoltán Ribli und Gyula Sax das Traditionsturnier von Wijk aan Zee, im selben Jahr gewann er das Milan-Vidmar-Memorial in Portorož/Ljubljana.