Năm 1986, ông bắt đầu chơi ở giải bóng đá ngoại hạng Liên Xô trong màu áo của đội bóng này ở vị trí tiền vệ và cùng đội này giành ngôi vô địch giải năm 1989 và ngôi á quân năm 1991. Sau thành tích thi đấu tốt ở giải ngoại hạng Liên Xô và trong các trận đấu vòng loại của giải Euro 1992, Shalimov được U.S. Foggia của Ý mời sang thi đấu. Sau một mùa bóng ở đội này, Shalimov chuyển sang đá cho F.C. Internazionale Milano và chơi ở vị trí tiền vệ trung tâm. Shalimov đã đá 50 trận cho Milano và ghi được 11 bàn thắng và cùng đội này giành ngôi á quân giải Serie A mùa bóng 1992-1993. Ngoài ra, Shalimov còn thi đấu cho MSV Duisburg (Đức), AC Lugano (Thụy Sĩ), Udinese Calcio (Ý), Bologna F.C. 1909 (Ý), S.S.C. Napoli (Ý).