Jaremtsjoek begon zijn carrière bij Dnjepr Tsjerkassy en SKA Kiev en maakte in 1985 de overstap naar het grote Dinamo Kiev, waarmee hij drie keer de landstitel en drie keer de beker won. Met zijn team won hij ook de finale van de Europacup II tegen Atlético Madrid met 3-0. In 1991 ging hij voor het Duitse SpVgg Blau-Weiß Berlin spelen dat toen nog actief was in de 2. Bundesliga en daarna bij Hertah BSC, maar kon zich bij beide clubs niet in de basis spelen. Hierna speelde hij nog voor meerdere clubs.