Faits:
A. Par jugement du 5 juillet 2011, le Tribunal correctionnel du canton de Genève a notamment acquitté X._ des chefs d'accusation d'infraction à la LStup et de séjour illégal; il a ordonné sa libération immédiate.
Par arrêt du 11 octobre 2011, la Chambre pénale d'appel et de révision de la Cour de justice genevoise a déclaré irrecevable l'appel formé par le Ministère public contre ce jugement et a laissé les frais de la procédure à la charge de l'Etat.
B. X._ forme un recours en matière pénale au Tribunal fédéral contre cet arrêt, concluant à son annulation et au renvoi de la cause à l'autorité cantonale. Il sollicite par ailleurs l'assistance judiciaire.
Des déterminations n'ont pas été requises.

Considérant en droit:
1. Invoquant une violation des art. 29 Cst. et 429 ss CPP, plus particulièrement de l'<ref-law>, le recourant se plaint de ce que la cour cantonale ne lui ait pas alloué d'indemnité de dépens pour la procédure d'appel.
L'invocation de l'art. 29 Cst. n'a pas de portée propre par rapport à la violation alléguée des art. 429 et 436 al. 2 CPP. L'<ref-law> prévoit que si le prévenu est acquitté totalement ou en partie ou s'il bénéficie d'une ordonnance de classement, il a droit à une indemnité pour les dépenses occasionnées par l'exercice raisonnable de ses droits de procédure. Cette disposition s'applique aux voies de recours (y inclus l'appel) en vertu de l'<ref-law>. L'<ref-law> spécifie en outre pour la procédure de recours que si ni un acquittement total ou partiel, ni un classement de la procédure ne sont prononcés mais que le prévenu obtient gain de cause sur d'autres points, il a droit à une juste indemnité pour ses dépenses. L'indemnité selon les art. 429 al. 1 let. a et 436 al. 2 CPP concerne les dépenses du prévenu pour un avocat de choix (cf. STEFAN WEHRENBERG / IRENE BERNHARD, Basler Kommentar StPO, 2011, n. 12 ad <ref-law> et n. 3 in fine ad <ref-law>; NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, n. 7 ad <ref-law>; YVONA GRIESSER, in Kommentar zur StPO, Donatsch/Hansjakob/Lieber (éd.), 2010, n. 4 ad <ref-law>).
En l'espèce, le recourant n'a pas été défendu par un avocat de choix mais a bénéficié de l'assistance judiciaire pour la procédure cantonale et par ce biais d'un défenseur d'office. Les frais imputables à la défense d'office font partie des frais de procédure (cf. <ref-law>), le prévenu n'ayant toutefois en principe pas à supporter les frais afférents à la défense d'office (cf. <ref-law>). Il apparaît dès lors que le recourant n'a pas lui-même supporté de dépenses relatives à un avocat de choix. Il ne saurait donc prétendre à une indemnité à ce titre, les conditions des art. 429 al. 1 let. a et 436 al. 2 CPP n'étant pas réalisées.
Le recourant fait valoir que si sa situation financière devait le permettre, il serait exposé à l'avenir à devoir rembourser à l'Etat les frais d'honoraires pour la défense d'office et à payer à son avocat la différence entre l'indemnité de défenseur d'office et les honoraires qu'aurait touché un défenseur privé (cf. <ref-law>). Conformément à la teneur de cette disposition, cette hypothèse n'est susceptible de concerner que le prévenu condamné aux frais de procédure, ce qui ne paraît pas être le cas du recourant. Quoi qu'il en soit, une indemnité selon les art. 429 al. 1 let. a et 436 al. 2 CPP ne saurait, la loi ne prévoyant pas un tel cas de figure, être accordée conditionnellement pour le cas où la situation visée à l'<ref-law> se produirait. Le recourant ne saurait donc prétendre à une indemnité pour ses frais de défense dans la procédure d'appel. Son grief est infondé.
2. Bien qu'il soit rejeté dans la mesure où il est recevable, le recours n'apparaissait pas d'emblée voué à l'échec. Il convient dès lors d'admettre la demande d'assistance judiciaire du recourant (<ref-law>), de désigner son mandataire comme avocat d'office et d'allouer à celui-ci une indemnité à titre d'honoraires, qui seront supportés par la caisse du Tribunal fédéral (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est admise et Me Romain Jordan est désigné avocat d'office du recourant.
3. La caisse du Tribunal fédéral versera 1'500 fr. au mandataire du recourant à titre d'honoraires.
4. Il n'est pas prélevé de frais judiciaires.
5. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre pénale d'appel et de révision.
Lausanne, le 14 août 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Paquier-Boinay