James Mehhan le puso el nombre de Goulburn a la ciudad en honor de Henry Goulburn, el Secretario de Estado para la Guerra y las Colonias, y ese nombre fue ratificado por el gobernador Lachlan Macquarie.