Den 27. januar 1985 ble han ordinert til regjeringsgodkjent hjelpebiskop for Shanghai, det vil si med anerkjennelse fra den katolske kinesiske patriotiske forening men uten pavelig mandat. I 1988 ble han ordinarie biskop av Shanghai, heller ikke denne gangen med Romas mandat. Under hans ledelse klarte bispedømmet Shanghai å vinne tilbake fra myndighetene et stort antall av de hundrevis av konfiskerte kirkene, og få dem satt i stand, slik at bispedømmet per 2008 hadde over 140 menigheter med egen kirke. Oppbyggingen av de katolske institusjonene ved Sheshan skyldes også i vesentlig grad biskop Jins arbeid. Jin Luxian engasjerte seg også for kontakt til utlandet, seminaristutdannelse og katolske publikasjoner på kinesisk. Han satte forsterket inn utenlandske professorer på presteseminaret, blant dem Joseph Zen Ze-kiun SDB og Savio Hon Tai-Fai SDB.