Kivi begann ihre musikalische Laufbahn mit drei Teilnahmen am estnischen Gesangswettbewerb "ETV − Laulukarussell", bei dem sie in den Jahren 1993, 1994 und 1998 in ihrer Altersklasse als Siegerin hervorging. Am 26. Januar 2002 nahm sie am Eurolaul 2002, der estnischen Vorausscheidung für den Eurovision Song Contest 2002, teil. Mit dem Lied "A Dream" belegte sie den siebten Platz. So wurde der Manager Peep Veedla auf sie aufmerksam. Er sollte für die Plattenfirma "TopTen" eine Girlgroup zusammenstellen. Im Sommer 2002 wurde Kivi Mitglied von Vanilla Ninja.