Principalmente conocido como el guitarrista de la banda (sus principales guitarras eran una Gibson SG y una Shergold Custom Masquerader), Sumner también tocaba el teclado para las partes del sintetizador e hizo su primera aparición vocal grabada cantando el estribillo de "They Walked In Line" en el álbum "Warsaw".