到了1904年（明治37年），台湾财政已可完全自主，无须日本中央补贴。一些公共建设甚至比日本内地还要先进，例如当时日本人居住的台北市下水道覆盖率已是亚洲第一高。
废除「三段警备法」.后藤新平面临的最大问题还是抗日游击队。在乃木希典时代，对抗日游击队採取的策略是「三段警备法」，在抗日游击队出没的地区，由军队与宪兵管辖。在平地与市街地，由警察管辖。介于中间的地区，则由警察与宪兵协力管辖。这个「三段警备法」表面上看起来很合理，其实非常不合理。因为军队与警察，不但指挥系统不同，想法