Faits :
A.
Par jugement du 4 septembre 2015, le Tribunal de police de la République et canton de Genève a déclaré X._ coupable de vol et d'infraction à la loi fédérale sur les étrangers (LEtr) pour avoir séjourné illégalement en Suisse durant la période du 27 juillet 2014 au 5 janvier 2015 et du 26 janvier 2015 au 12 mars 2015. Il l'a condamné à une peine privative de liberté de 4 mois. Il a ordonné la révocation de deux sursis octroyés par des décisions du ministère public de Fribourg des 17 octobre 2014 et 21 janvier 2015 et condamné X._ aux frais de la procédure.
B.
Par jugement du 23 juin 2016, la Chambre pénale d'appel et de révision de la Cour de justice de la République et canton de Genève a rejeté l'appel de X._ et l'a condamné aux frais de justice. Elle a taxé les honoraires du défenseur d'office.
La cour cantonale a retenu les faits suivants.
Le 12 mars 2015, A._ a déposé plainte pénale pour un vol survenu le jour même, entre 13 h 55 et 14 h 55, dans son véhicule stationné sur la voie publique à la rue B._ à Genève. Il a annoncé la disparition de divers documents, de deux paires de lunettes Ray Ban et d'un GPS Tom Tom. Un téléphone portable a été retrouvé au pied du siège passager du véhicule. Cet appareil enregistré au nom de C._, amie de X._, appartenait à celui-ci.
C.
X._ interjette un recours en matière pénale au Tribunal fédéral contre le jugement du 23 juin 2016. Il conclut, avec suite de frais et dépens, principalement à son acquittement de tous les chefs d'accusation retenus contre lui, au versement d'une indemnité pour la détention préventive subie à tort et au renvoi de l'affaire à la juridiction cantonale pour nouvelle décision sur les frais et dépens des procédures antérieures. Subsidiairement, il requiert le renvoi de l'affaire à l'autorité précédente pour nouvelle décision au sens des considérants.
X._ a présenté une demande d'assistance judiciaire.

Considérant en droit :
1.
Le recourant considère que la juridiction cantonale a procédé à une appréciation arbitraire des preuves et qu'elle a violé le principe « in dubio pro reo ».
1.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (art. 105 al. 1 LTF), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. Il n'entre ainsi pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 6.3 p. 375).
La présomption d'innocence, garantie par les art. 6 par. 2 CEDH, 32 al. 1 Cst. et 10 CPP, ainsi que son corollaire le principe « in dubio pro reo» concernent tant le fardeau de la preuve que l'appréciation des preuves. Lorsque l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe « in dubio pro reo », celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82).
1.2. La juridiction cantonale a reconnu la culpabilité du recourant en admettant que rien n'expliquait la présence de son téléphone portable dans le véhicule où le vol avait été commis, si ce n'était le fait qu'il était tombé de la poche du voleur. De plus, elle a retenu que le recourant se trouvait à proximité du lieu du vol au moment où celui-ci a été commis, du fait de sa présence dans l'appartement de son amie, où il vit avec elle et qui est situé à quelques dizaines de mètres du lieu où le véhicule était stationné. Enfin, le recourant avait déjà été condamné à trois reprises pour des vols commis dans des véhicules stationnés sur la voie publique.
1.2.1. Le recourant considère qu'il était arbitraire pour la cour cantonale de prendre en compte ses antécédents judiciaires (vols dans des véhicules stationnés sur la voie publique) comme indices importants de sa culpabilité.
1.2.2. La façon de voir du recourant ne saurait être suivie. En effet, la cour cantonale a retenu les vols commis précédemment dans des véhicules stationnés sur la voie publique non pas comme antécédents mais bien comme mode opératoire. Or, il est connu que ce critère peut être pris en compte lorsqu'il s'agit d'attribuer une infraction à son auteur présumé.
1.2.3. Le recourant reproche aussi à la cour cantonale d'avoir violé le principe « in dubio pro reo » en fondant sa condamnation sur le seul fait que son téléphone portable avait été retrouvé dans le véhicule où le vol avait été commis, alors que la police n'avait trouvé sur place ni ses empreintes ni son ADN, qu'il n'avait été vu par personne, qu'il n'existait au dossier aucune image provenant des caméras de surveillance, alors qu'il en existe beaucoup dans le quartier et, enfin, qu'aucun des objets volés n'avait été retrouvé chez lui. De plus, il a affirmé qu'il s'était fait voler son téléphone portable à l'heure du déjeuner, ce dont il avait informé son amie entre 14 h et 14 h 30, soit avant la livraison d'un canapé à leur appartement. Dans ces conditions, il était impossible qu'il ait pu commettre ce vol.
1.2.4. Au vu des différents éléments du dossier, la cour cantonale pouvait retenir sans arbitraire que le recourant était bien l'auteur du vol.
Le recourant ne conteste pas la présence de son téléphone portable dans le véhicule, où le vol a eu lieu. Il ne conteste pas non plus sa présence à proximité du lieu du vol, admettant avoir été, dans la tranche horaire du vol, soit dans l'appartement de son amie, soit dans un restaurant tout proche. Cela n'excluait pas qu'il ait pu commettre l'infraction. De plus, les déclarations faites par le recourant sont sujettes à caution. En effet, lors de son interpellation par la police, il a commencé par prétendre qu'il n'avait pas de casier judiciaire, puis il a admis qu'il avait été condamné pour vols mais qu'il n'avait jamais rien volé, ces accusations ayant été retenues contre lui en raison de sa nationalité.
Pour expliquer la présence de son téléphone sur le lieu du vol, le recourant a déclaré qu'il l'avait perdu au restaurant vers 13 h, puis que cet appareil avait dû lui être volé. Les faits allégués par le recourant n'établissent en rien l'existence d'un vol de son téléphone portable avant le moment où le véhicule a été cambriolé. Tout au plus permettent-ils de dire que le recourant, qui n'était plus en possession de son téléphone, a demandé à son amie de faire bloquer la carte SIM. De même, la livraison du canapé à 14 h 30 selon l'attestation produite n'exclut pas que le recourant ait pu commettre le vol. L'absence d'empreintes digitales ou de traces ADN ne signifie rien, puisqu'elles n'ont pas été relevées. Il en va de même des enregistrements de caméras de surveillance qui ne semblent pas avoir été consultés.
Compte tenu du fait que le téléphone portable du recourant a été retrouvé sur le lieu du vol, que celui-ci se trouvait dans le quartier au moment du vol et du fait que le recourant avait déjà commis à trois reprises des vols dans des voitures en stationnement, les arguments, dont le recourant estime qu'ils lui rendaient impossible la commission de l'infraction, ne permettent pas de faire admettre que l'appréciation de la cour cantonale était arbitraire.
2.
La cour cantonale a constaté que le recourant a résidé illégalement en Suisse depuis que le rejet de sa demande d'asile était exécutoire et l'a condamné pour séjour illégal en Suisse en application de l'art. 115 al. 1 let. b LEtr.
2.1. Le recourant conteste sa condamnation estimant qu'il n'a jamais eu l'intention de séjourner illégalement en Suisse. Il considère que l'élément subjectif de l'infraction n'est pas donné. De plus, le recourant estime qu'il ne pouvait pas être condamné pour séjour illégal en Suisse car toutes les démarches en vue de son renvoi n'avaient pas été menées.
2.2. Le recourant ne conteste pas avoir eu connaissance de la décision de l'Office fédéral des migrations rejetant sa demande d'asile et ordonnant son renvoi. Dans ces conditions, une fois échu le délai pour quitter le territoire suisse, le recourant savait qu'il séjournait sans droit en Suisse. Il ne peut donc pas prétendre qu'il ne remplissait pas les conditions subjectives de punissabilité.
2.3. Par arrêté fédéral du 18 juin 2010, l'Assemblée fédérale a approuvé la reprise de la Directive sur le retour en tant que développement de l'acquis de Schengen (RO 2010 5925).
Se référant à la jurisprudence européenne, le Tribunal fédéral a admis que la Directive sur le retour n'était pas applicable aux ressortissants des pays tiers qui avaient commis, outre le séjour irrégulier, un ou plusieurs autres délits (art. 2 al. 2 let. b de la Directive sur le retour) en dehors du droit pénal sur les étrangers (arrêts 6B_366/2016 du 15 mai 2017 consid. 2 destiné à la publication; 6B_1189/2015 du 13 octobre 2016 consid. 2.1; 6B_320/2013 du 29 août 2013 consid. 3).
En l'espèce, le recourant a été condamné pour vols et dommages à la propriété. De ce fait, la Directive sur le retour ne lui est pas applicable et sa condamnation pour séjour illégal en Suisse ne peut pas être contraire à cette directive. Le grief invoqué doit donc être rejeté.
3.
Le recours est rejeté.
Les conclusions du recourant étant dénuées de chances de succès, la demande d'assistance judiciaire est rejetée (art. 64 al. 1 LTF). Le recourant supporte des frais réduits fixés en tenant compte de sa situation économique (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'200 francs, sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale d'appel et de révision.
Lausanne, le 6 juin 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Musy