I sin fødeby Halden ble Elvestad beæret med en byste og egen plass sentralt i byens kulturkvartal. Bysten av Elvestad, som Nils Aas har laget, ble avduket av bokhandler Bjørn Andersen 31. oktober 1999. I Bernt Rougthvedts biografi fra 2007 skildres Elvestad som homofil. Opplysningene om at Elvestad omgav seg med unge (men kjønnsmodne) menn under sine opphold i Positano, fikk enkelte av anmelderne til å benytte ordet pedofili, noe det ikke finnes grunnlag for i Rougthvedts biografi. I ble det tatt til orde for at bysten måtte fjernes på grunn av Elvestads fascistiske sympatier.