Tiberius ble født i 163 f.Kr. i en av de politisk mektigste slektene i Roma på denne tiden. Hans var sønn av Tiberius Gracchus den eldre og Cornelia Africana. Cornelia var datteren til Aemilia Paula og Scipio Africanus, den berømte feltherren som beseiret Hannibal under den andre punerkrig. Tiberius søster var gift med Publius Cornelius Scipio Aemilianus, en annen kjent general. Siden Tiberius mistet sin far i ung alder, var det moren som sto for oppdragelsen til ham og hans søster og bror, Gaius Gracchus.