Normalmente, Stipe no tocaba instrumentos, concentradose en cantar, pero sí tocó instrumentos en álbumes, incluyendo la armónica en "Reckoning", el sintetizador en "New Adventures in Hi-Fi", la guitarra en "Up" y la melódica en "Out of Time", y ocasionalmente tocó la guitarra en algunas canciones en vivo.