La reunión constitutiva de los accionistas del centro giro de las cooperativas austríacas Raiffeisen se llevó a cabo el 16 de agosto de 1927. Con esto, fue establecida una institución central para el Grupo Bancario Raiffeisen, y desde entonces esta institución ha funcionado como el representante nacional e internacional y coordinador del Grupo. La fundación tuvo lugar unas cuatro décadas después de la fundación de la primera cooperativa de ahorros austríaca en utilizar el sistema divisado por Friedrich Wilhelm Raiffeisen. El nombre original de la compañía era "Girozentrale der österreichischen Genossenschaften". En 1939, después de la anexión alemana de Austria, los nuevos propietarios alemanes cambiaron el nombre a "Genossenschaftliche Zentralbank der Ostmark Aktiengesellschaft", y entonces en 1942 a "Genossenschaftliche Zentralbank Wien Aktiengesellschaft". Desde 1953, el nuevo nombre fue "Genossenschaftliche Zentralbank Aktiengesellschaft", con la abreviación GZB también utilizada por la compañía. Desde 1989, el banco ha sido nombrado Raiffeisen Zentralbank Österreich Aktiengesellschaft, abreviado como RZB.