Mart Poom startet sin karriere i Tallinn Sport og Flora Tallinn før han reiste til finske Kuopion Palloseura der han spilte 9 ligakamper. I 1993 reiste han til Sveits for å spille for FC Wil før han den 4. august 1994 skrev under for den engelske klubben Portsmouth. Han spilte imidlertid bare sju obligatoriske kamper for klubben fra Hampshire, og ble på grunn av lite spilletid lånt ut til sin gamle klubb Flora Tallinn.