La primera publicación destacable de Gray fue una recopilación de versos llamada "Silverpoints" (1893), que consistía en dieciséis poemas originales y treces traducciones de poemas de Verlaine, Mallarmé, Rimbaud y Baudelaire.