一中学校就读，后考入台北高等学校。在台湾完成高中学业后，旋即至日本东京帝国大学攻读东洋哲学（日本的东洋学主要指汉学）毕业，取得哲学士学位。返台后任教则于台湾大学中文系。他与苏维熊、黄得时同为台湾大学最早的3位先修班教授（只有这3位先修班教授和先修班主任林茂生是台湾人，1945年12月获聘，其他师资是留用的元台北帝国大学预科日本人教员）。与作家吕赫若同为邻居，往来过从甚密。白色恐怖期间，吕赫若逃亡至深山，传闻被毒蛇咬死，张冬芳则避居丰原老家，四处流离寄居于亲友、佃农家中甚至坟场，终至倖免于难。1950年代后