Justice empezó en el 2003 haciendo un remix de la canción de Simian "Never be Alone" creada en una estación de radio de una universidad en París, para un concurso de remixes.