1895年进入日治时期后，日本政府开始推动西化的公学校等现代义务教育，旧式汉学书房（私塾）日益被取代。虽兼重「国体论」与儒家思想，但随着理化、歌唱、绘画、体育等新课程的纳入，传统儒学已逐渐非教材重点。1917年，日本政府开始整修台南孔庙，当时台南厅长枝德二并撰文立碑说明整修始末，碑身为于今孔庙东南侧。山田孝使的《台南圣庙考》一书亦载有施工前后的孔庙平面图。在1930年代，台湾曾发生儒墨论战。黄纯青等倾向墨家的学者曾表示墨学「正是今日治本救时之良剂」，至于张纯甫等倾向儒家的学者则表示「励志专攻孔孟之学，