返台，后于 1922 年插班到基督教学校青山学院中学部三年级。在台湾及日本的求学经验，不断刺激其反日殖的自我民族认同，张深切在东京台人聚住的高砂寮结识台籍社运要角如彭华英、范本梁、林呈禄等，也因此受左翼民族主义之浪潮影响。1923 年 9 月，因关东大地震校舍严重损毁转赴中国上海，隔（1924）年就读新立的上海商务印书馆附设国语师范学校（吴稚晖为创校校长）；同年加入上海台湾留学生许乃昌、蔡惠如等创立的「上海台湾青年会」，在「国耻纪念日」演讲会抵制台湾总督府「始政纪念」并揭露台湾民众的悲惨情状，又与谢雪红