Alexander Sybin begann seine Karriere in der Sportschule des ZSKA Moskau und debütierte im März 1979 in der höchsten Spielklasse der UdSSR, der Wysschaja Liga, gegen Traktor Tscheljabinsk. Ab der Saison 1979/80 gehörte er fest zum Kader des ZSKA und gewann in den folgenden Jahren jeweils die sowjetische Meisterschaft und den Eishockey-Europapokal. 1980 gehörte er zur sowjetischen Junioren-Nationalmannschaft, die die Goldmedaille bei der Weltmeisterschaft gewann.