行大厦的设计者是日本建筑师，他毕业于东京帝国大学建筑学科，专长金融机构建筑的设计。施工单位则是大仓土木（今大成建设）。楼高三层，并有一层地下室，为钢筋混凝土结构，是一座新古典主义建筑，外观墙体及列柱均使用花岗石修建，呈现稳重典雅的风格。二战期间，曾因台北大空袭遭美军轰炸受损；战后重建屋顶，1946年5月20日恢复营业。1998年5月4日，台北市政府将其列入台北市市定古蹟。
戏剧取景.2007年，日本TBS电视台55週年台庆电视剧《华丽一族》，曾借用台湾银行总行大厦的营业大厅做为剧中