In 2012 werd Gebremeskel vijfde op de WK indoor op de 3000 m. In juli kwalificeerde hij zich bij een Diamond League-Meeting in Parijs voor de Olympische Spelen van Londen. Bij zijn olympisch debuut kwam hij uit op de 5000 m. Met 13.15,15 in de kwalificatieronde plaatste hij zich voor de finale, waarin hij met 13.41,98 een zilveren medaille veroverde. Alleen Mo Farah was met 13.41,66 nipt sneller.