Andrei Trefilow begann seine Profi-Laufbahn 1990 bei Dynamo Moskau, einem der traditionsreichsten Eishockeyvereine Russlands. Nicht zuletzt durch seine guten Leistungen wurde Dynamo in den Jahren 1991 und 1992 russischer Meister. Am 22. Juni 1991 wurde Trefilow beim NHL Entry Draft an 261. Stelle von den Calgary Flames ausgewählt.