Cuando Loaded tomo un descanso en a finales del 2002, Duff empezó a trabajar en un proyecto que eventualmente se convertiría en Velvet Revolver, del cual Kushner seria parte, tocando guitarra rítmica desde diciembre de 2002.