兼士先后在北平大学、辅仁大学、清华大学、厦门大学等校任教。1922年，在北京大学创办研究所国学门，任主任。沈兼士曾和兄长沈士远、沈尹默同在浙江省立第一中学、北京大学任教，这三兄弟号称“北大三沈”。沈兼士还曾历任北京大学文学院院长、辅仁大学文学院院长、故宫博物院理事、文献馆馆长、国语推行委员会常委等职务。沈兼士在新文化运动中倡导新诗。抗日战争期间，曾任《鲁迅全集》编委，并参与抗日团体“炎社”的创建 。