Shapley se účastnil Velké debaty s Heberem D. Curtisem o povaze mlhovin, galaxií a velikosti vesmíru. Diskuze se uskutečnila 26. dubna 1920 ve Wwashingtonu DC v sále Národní akademie věd USA. Shapley zastával názor, že spirální mlhoviny (nyní známé jako spirální galaxie) jsou uvnitř naší Galaxie Mléčné dráhy, zatímco Curtis zastával názor, že spirální mlhoviny jsou "ostrovní vesmíry" daleko za hranicí naší Galaxie, povahou a velikostí srovnatelné s naší Galaxií. Tato debata je považována za počátek extragalaktické astronomie. Nicméně Shapleyova argumentace na vlastní diskuzi byla značně odlišná od později publikované práce, zřejmě s motivací zapůsobit na přítomnou delegaci z Harvardovy univerzity, která mohla Shapleymu nabídnout místo ředitele Harvard College Observatory. Astronomické důkazy brzy rozhodly ve prospěch Curtise, když Edwin Hubble objevil cefeidy v mlhovině M31 v Andromedě a jednoznačně určil, že je daleko za hranicemi naší vlastní Galaxie.