En del av Holsteins dikt har blitt tonesatt og inngår , blant annet fra (2. utgave, 1903) og fra (1915). Holstein oversatte dessuten fra engelsk, fransk og tysk; fra og med 1919 var han tilknyttet Gyldendal som litterær konsulent.