蔡惠如、许乃昌、彭华英等人发起，初期成员约十数名，后来积极扩充，举办许多活动。上海台湾青年会的主要成员都为上海南方大学学生，表面上虽仅为单纯学生联谊与研究为主，但事实上却与东京青年团体及台湾文化协会有密切的合作唿应及联系。相同的，该会也积极支持台湾民主化活动，如台湾议会设置请愿运动。1924年，为了抗议治警事件，上海台湾青年会主导召开「上海台湾人大会」，表明抗议台湾总督府的高压统治。惟随后因经费问题，该会于同年11月解散。之后，该会成员则另组「旅沪台湾同乡会」、「上海台湾反帝同盟」等。