Mehmedi og hans familie emigrerte i 1993 fra Gostivar i Nord-Makedonia til Sveits. Etter syv år i byen Bellinzona, hvor han også spilte for AC Bellinzonas ungdomslag, skiftet han i 2000 til FC Winterthur. I 2006 gikk han så til FC Zürichs ungdomsavdeling. Siden 2008 har han vært en del av A-laget i Zürich. I løpet av sesongen 2010/2011 fikk Mehmedi fast plass på FCZ.