Ved den kommunistiske maktovertagelse i Kina ble biskop Gaspais tillike med de øvrige utenlandsfødte katolske biskoper nødt til å forlate landet. Utvisningen av biskopen ble begrunnet med at han skulle ha «feilinformert om regjeringens trippelautonomiprogram og for å ha opprettet Marialegionen i sitt bispedømme».