因兴建台湾总督府电话交换局颇受好评的协志营造厂负责台北市役所的巨大兴建工程，于1937年动工起造，大兴土木3年4个月才让工程终于1940年完竣，并于1941年正式启用为台北市役所。1945年8月14日日本投降、中华民国接收台湾，刚就任的台湾省行政长官陈仪不进驻台湾总督府而选择在台北市役所办公。使用不到4年的原台北市役所摇身一变成为台湾省行政长官公署办公厅。在二二八事件后，台湾省行政长官公署裁撤，原先的台湾省行政长官公署办公厅遂于1947年5月26日起作为台湾省政府办公厅；直至台湾省政府迁移中兴新村，原先