上任总司理后不久，便于1931年决定重建总行，而且着手筹备重建的事宜。在1933年10月10日，滙丰正式撤出大楼，随即展开拆卸工程。新总行在1934年10月17日举行奠基典礼，邀得港督贝璐爵士主持，这座大楼除了由祁礼宾主持统筹和规划外，总行的首席会计师摩士亦负责督建和物料採购方面的工作，而香港巴马丹拿公司（Palmer and Turner，又译公和洋行）旗下的建筑师G·L·威尔逊（G. L. Wilson）则负责设计和营建的工作。总括而言，新总行面积比旧总行大，亦佔用了部份前香港大会堂原址，整座总行楼高