Stoffet ble oppdaget i 1861 av Robert Bunsen og Gustav Kirchhoff ved hjelp av spektroskopisk analyse av lepidolitt (en type glimmer). Rubidium i form av salt opptrer som forurensing av mineralet, og blir vasket ut av regn- og grunnvann. For å felle ut 9 gram rubidiumsalt måtte Bunsen bearbeide 44 200 liter kildevann. Rubidium i ren metallisk form ble fremstilt ved kjemisk reduksjon av rubidiumsalt med kalium.