Området der Taipei ligger i dag ble først bebodd av Ketagalanstammen. Hankinesere fra Fujian kom allerede i 1709. I 1894 ble byen hovedstad i Taiwan. I 1895 la japanerne øya under seg etter Qing-dynastiet tapte den første kinesisk-japanske krig mot Japan i 1895 og byen fikk navnet (臺北市 たいほくし Taihoku-shi). Byen ble så hovedstad for det japanske styre og ble utviklet til et administrativt sentrum på øya.