Han vokste opp i Tallinn som sønn av forfatteren Paul Rummo. På morssiden er han av romanislekt. Han studerte filologi ved Universitetet i Tartu og arbeidet så ved teatre i Tartu og Tallinn. Han er gift med Viiu Härm, som er forfatter og skuespiller.