カヤホガ川
殿堂博物館の建設場所に関する初期の議論で、財団理事会はクリーブランドの繁華街でカヤホガ川沿岸を想定していた。最終的に選ばれた場所は、エリー湖を臨む東9番通り(East Ninth Street)沿い、クリーブランド・スタジアムの東となった。資金調達にズレが生じた計画段階のある時、当時の空きビル(May Company Building)にロックンロールの殿堂を置く提案もあったが、最終的に建築家I・M・ペイに新しい建物の設計を依頼することに決まった。最初のCEOであるラリー・R・トンプソン博士がこの設計でI・M・ペイを手助けした。ペイが、ガラスのピラミッドとそこから突き出た塔のアイデアを思い付いた。博物館の塔はもともと高さ200フィート(61m)になる予定であったが、バークレイク・フロント空港に近いため高さを49mに下げなければならなくなった。建物の基礎は約14,000m2である。