Bygningen ble bygget med penger fra verdensutstillingen i 1888 og ble satt opp for en annen verdensutstilling i 1901. På grunn av at utstillingen foregikk i Kelvingrove Park er museet vinklet mot parken og det kan derfor i dag virke som om bygningen er bak frem. De fleste besøkende kommer i dag fra Argyle Street som strengt tatt er på baksiden av bygget. Museet gjennomgikk en omfattende rehabilitering fra 2003 til 2006 og ble gjenåpnet av Elisabeth II av Storbritannia.