Gebremariam genombrott kom när han 2002 vann guld på 10 000 meter och brons på 5 000 meter vid junior-VM. Han deltog vid VM 2003 i Paris där han slutade sexa på 5 000 meter. Samma år blev han trea vid IAAF World Athletics Final i Monaco.