名字里的“全台”一词，是仿照全闽会馆的“全闽”而来。位于后铁厂的全台会馆地方偏僻，所以卖旧置新，即把后铁厂的全台会馆房产出售，在大蒋家胡同新置房产建新馆。新会馆（即“台湾会馆”）的建立时间尚有争议。一种说法认为，光绪二十二年（1896年），新会馆在前门大街大蒋家胡同（今大江胡同114号）建立，称为“台湾会馆”。当时，进京参加科举考试的台湾人多在该会馆落脚。光绪二十一年（1895年）清廷同日本签订《马关条约》前夕，台湾举人“会试在都，上书力争”，台湾举人汪春源、罗秀惠、黄宗鼎联合在北京的台湾籍官员叶题雁、