此寺并非由出家人所住持，直到1928年，吴普明托钵驻钖于此，其师月眉山灵泉寺德韫法师（何德韫）成为此寺第一任住持，此后扩大建设。1934年3月，林德林来东台湾宣教，记录海山寺，记下正门柱联写「癸丑年夏六月重修」、此寺主祀观世音菩萨、左畔祀关帝君、右畔祀土地公。王养源来台东参观，写下描写汉、原住民文化交会的十三首竹枝词，包含此寺。1941年，皇民化运动兴起，一次，警务课长井野边招集台东市绅在台东天后宫开会，主张废除台东所有寺庙，改成神社。首先被问的南医师是原住民，表示赞成。第二位陈姓士绅是基督徒，也表