考取位于台北的台湾总督府国语学校(日语) 师范部（即今台北市立教育大学），受到日本籍美术老师石川钦一郎的启蒙，有意将来做一名画家。事实上，石川钦一郎是第一个来到台湾播下新美术种子的日本画家，而倪蒋怀则是石川在台湾的第一个学生。倪蒋怀与一批同年龄的学生，以写生的方式，描绘环顾的台湾土地，台湾的新一次美术时代就此开展。1913年，倪蒋怀从日语学校毕业，就任于暖暖公学校担任训导的职务。一年后，倪与基隆颜家矿业名人颜火炎之女颜对结婚。1917年，四年义务性的教职结束后，倪蒋怀原本有意赴日深造，不过，却被石川阻止