加北京师大国文系文学团体「新野社」，1929年留校任日文讲师，且于北京大学兼课。他影响台湾文坛最鉅的事情，是他于1924年4月与11月于《台湾民报》发表的〈致台湾青年的一封信〉与〈糟糕的台湾文学界〉，该两篇抨击台湾旧文学与旧诗人的文章，引发台湾日治时期新旧文学论战。〈致台湾青年的一封信〉原载1924年4月21日《台湾民报》第2卷7号，是张我军大力批判台湾传统文学的第1篇作品，批评当日台湾传统文学有诸多弊病：「诸君怎的不读些有用的书来实际应用于社会，而每日只知道做些似是而非的诗，来做诗韵合解的奴隶，或