Su primer trabajo como Protest the Hero (nombre que se pusieron un poco antes de lanzar ese álbum) fue A Calculated Use of Sound EP (2003) (antes de ese EP hay registrado un vinilo llamado "Search for the Truth (7")" el que contenía dos canciones llamadas "Silent Genocide" y "Is Anybody There?"), en la página Formspring se dijo que este vinilo fue hecho cuando ellos tenían 13 años, luego realizaron su primer álbum Kezia (2005) bajo el sello Underground Operations.