长官原本名称为为民政长官，1918年8月20日改名为总务长官，该职务除了是台湾总督的左右手之外，另外也为总督府各项政策的实际执行者。台湾总督府历任总务长官计有水野遵、曾根静夫、后藤新平、祝辰巳、大岛久满次、宫尾舜治、内田嘉吉、下村宏、贺来佐贺太郎、后藤文夫、河原田稼吉、人见次郎、高桥守雄、木下信、平冢广义、森冈二朗、斋藤树、成田一郎。后藤新平为台湾日治时期各项政经建设的基础肇始者。内田嘉吉则为唯一也曾担任台湾总督的总务长官。
其他官署.除了总督与总务长官外，台湾总督府尚有缜密的