Hay vant en olympisk sølvmedalje i svømming under Sommer-OL 1920 i Antwerpen. Han var med på det australske laget som kom på andreplass på 4 x 200 merer fri med tiden 10.25,4 bak USA som satte ny verdensrekord 10.04,4. De andre svømmerne på laget var; Frank Beaurepaire, William Herald og Ivan Stedman.