行成立后的首个办公地点便是西交民巷27号的大清户部银行旧址。1951年9月，中国农业合作银行由西交民巷27号迁入西交民巷50号的中国农工银行旧址办公。中国农业银行于1963年11月恢复成立后，总行设在西交民巷27号的大清户部银行旧址。1979年2月，中国农业银行再度恢复成立初期，总行仍设在西交民巷27号的大清户部银行旧址，直到1981年3月16日迁至北京市宣武区白广路1号。1982年1月，大清户部银行旧址被拆除，新建为中国农业银行家属宿舍。2013年，位于西交民巷甲25号的建筑遗存作为“户部银行旧址”被