Mot slutten av 1959 samlet byens innbyggere seg for å overbevise NFL om å bygge æresgalleriet i Canton, og samlet også inn $378 026 for å bygge selve museet i et parkområde som ble donert av byen. Begynnelsen av byggingen begynte i august 1962, og museet åpnet 7. september 1963.