Museet holder til i den gamle Bankside Power Station, opprinnelig tegnet av Giles Gilbert Scott. Bygningen ble bygget i to etapper mellom 1947 og 1963, og var i bruk som kraftverk frem til 1981. Bygningen ble deretter gjort om av sveitserne Herzog og de Meuron (Herzog & de Meuron) og åpnet som kunstmuseum den 12. mai 2000.