Erkebiskop Grösz døde av et hjerteinfarkt den 3. oktober 1961 etter å ha fullført sin feiring av den hellige messe. Han ble gravlagt i katedralens krypt den 6. oktober.