Joyce nasceu numa família modesta de marinheiros, e iniciou a sua carreira naval em 1891. As viagens antárticas tiveram início 10 anos mais tarde, quando entrou para a Expedição "Discovery" de Scott, como marinheiro contratado. Em 1907, Shackleton recrutou Joyce para ser responsável pelos trenós e pelos cães na Expedição "Nimrod". Segue-se a Expedição da Australásia na Antártica liderada por Douglas Mawson, em 1911, mas mesmo antes de partir, Joyce desistiu. Em 1914, Shackleton recrutou-o para o Grupo do Mar de Ross; considerado um herói, esta foi a sua última expedição, embora tenha tentado juntar-se a outras.