En 1986 Setzer saca su primer disco en solitario, The Knife Feels Like Justice; con este álbum se aleja del estilo rockabilly para caer en sonido roquero más convencional.