教最早是随宋代在上海镇经商的大食商人进入上海。元至正年间，松江始建松江真教寺。上海开埠后，因为江淮水灾和太平天国的原因。大批原居住于南京、镇江、扬州等地的穆斯林移居上海，大部分居住在今天沪西即普陀地区。1966年，由于文革爆发，除小桃园清真寺以外，其余清真寺均被关闭，直至1979年。目前，上海着名的清真寺包括南市小桃园清真寺和沪西清真寺。信众仍以回族、维吾尔族等少数民族为主。
天主教.明万历三十六年十二月，上海人徐光启邀请天主教耶稣会传教士郭居静来沪。在徐府设立礼拜场所，并传播天主教