Bei den Olympischen Spielen 2008 in Peking gewann er mit seiner persönlichen Bestzeit von 8:10,49 min die Silbermedaille, 15 Hundertstelsekunden hinter dem amtierenden Weltmeister Brimin Kiprop Kipruto (KEN) und 12 Hundertstelsekunden vor dessen Landsmann Richard Kipkemboi Mateelong. Nachdem Mekhissi bei den Weltmeisterschaften in Berlin erneut im Vorlauf ausgeschieden war, stand er 2010 bei den Europameisterschaften in Barcelona wieder im Finale. Dort setzte er sich mit seinem Landsmann Bouabdellah Tahri frühzeitig vom Feld ab, im Endspurt sicherte er sich mit neuem Europameisterschaftsrekord von 8:07,87 min den Titel vor Tahri. Bei den Weltmeisterschaften in Daegu belegte er hinter den Kenianern Ezekiel Kemboi und Brimin Kiprop Kipruto den dritten Platz mit einer Zeit von 8:16,09 min.