Terbium ble oppdaget i 1843 av den svenske kjemikeren Carl Gustav Mosander som fant stoffet som en urenhet i yttrium-oksid (). Han døpte det nye grunnstoffet Terbium etter funnstedet Ytterby gruve i Sverige. Rent terbium ble først fremstilt i 1945 da nye separasjonsmetoder ved hjelp av ionebytting ble utviklet.