Ayrton var agnostiker, men hadde nære bånd til det jødiske samfunnet. I tenårene fikk hun navnet Hertha etter en heltinne av ett Swinburne-dikt som kritiserte organisert religion.