主任委员由台北市市长吴三连兼任，首任副主任委员由台北市议会议长黄启瑞兼任，採委员会制，直属台北市政府，会址设于台北市衡阳路132号。1952年6月21日，台北市文献委员会于台北市议会三楼举行成立大会。1965年8月21日，台北市文献委员会会址迁至台北市南京东路二段15号5楼。1967年1月2日，台北市政府发布《台北市文献委员会组织规程》。1967年4月，台北市文献委员会会址迁至台北市民权东路85号3至4楼。1967年7月1日，台北市改制为直辖市，台北市文献委员会为台北市政府一级单位，主任委员由市长兼任，副主