Faits :
A.
Par jugement du 25 août 2015, le Tribunal correctionnel de la République et canton de Genève a acquitté X._ du chef d'accusation de viol et a rejeté les conclusions en indemnisation de A._. Il a toutefois condamné le prénommé pour trois vols, une tentative de vol, des dommages à la propriété, quatre violations de domicile et deux vols d'importance mineure à une peine privative de liberté d'un an, sous déduction de 12 jours de détention subie avant jugement, dont six mois à exécuter, le solde étant assorti du sursis durant quatre ans, et à une amende de 200 fr., la peine privative de liberté de substitution étant fixée à deux jours, ainsi qu'au tiers des frais de la procédure, y compris un émolument global de jugement, le solde de ces frais étant laissé à la charge de l'Etat. Ses conclusions en indemnisation ont été rejetées et diverses mesures de confiscation/destruction/restitution d'objets saisis ont été ordonnées.
B.
Statuant le 26 mai 2016, la Chambre pénale d'appel et de révision de la Cour de justice de la République et canton de Genève a rejeté l'appel formé par X._ et a admis l'appel joint du ministère public en ce sens qu'elle a condamné l'intéressé à une peine privative de liberté ferme d'un an, sous déduction de 12 jours de détention subie avant jugement. Elle a confirmé le jugement entrepris pour le surplus.
En substance, la condamnation de X._ repose sur le fait qu'il a, entre octobre 2012 et novembre 2014, commis plusieurs vols et une tentative de vol portant sur un montant totalisant plus de 3'500 fr., occasionné des dommages dans une cellule d'un poste de police de l'ordre de 500 fr. et perpétré des violations de domicile.
Le casier judiciaire suisse de X._ fait état de huit condamnations entre février 2007 et avril 2014, dont une, prononcée le 14 décembre 2011, consiste en une peine privative de liberté de trois mois, les sept autres étant des peines pécuniaires, pour injures, violences ou menaces contre les autorités et les fonctionnaires, dommages à la propriété, violations de domicile, lésions corporelles simples, vols, menaces, recel, vols d'importance mineure, contravention à l'<ref-law> et opposition aux actes de l'autorité.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt du 26 mai 2016 et conclut à ce qu'il soit condamné à une peine privative de liberté clémente assortie du sursis complet et à ce qu'une indemnité d'un montant de 10'000 fr. lui soit octroyée, avec intérêts à 5% dès le 22 février 2012, à titre de tort moral. Il sollicite également l'assistance judiciaire.
Invités à se déterminer, la cour cantonale, persistant dans les termes de son arrêt, y a renoncé, tandis que le ministère public a conclu au rejet du recours. Le recourant, persistant dans ses conclusions prises dans son mémoire de recours, a renoncé à répliquer.

Considérant en droit :
1.
Le recourant, qui se fonde sur le droit de tout prévenu de ne pas s'incriminer (cf. <ref-law>) et se réfère notamment à des avis de doctrine, reproche à la cour cantonale d'avoir tenu compte de sa mauvaise collaboration dans la fixation de sa peine. Or, de jurisprudence constante, le droit de ne pas s'auto-incriminer n'exclut pas la possibilité de considérer comme un facteur aggravant de la peine le comportement du prévenu qui rend plus difficile l'enquête pénale par des dénégations opiniâtres, dont on peut déduire une absence de remords et de prise de conscience de sa faute (cf. <ref-ruling> consid. 6.1.1 p. 66 s.; <ref-ruling> consid. 6.1 p. 20; voir également l'arrêt 6B_688/2015 du 19 mai 2016 consid. 3.5 et les références citées). C'est ce qui a été implicitement retenu par la cour cantonale, dans la mesure où elle a constaté que le recourant avait souvent contesté les faits reprochés, malgré les éléments de preuves qui lui étaient soumis (preuves matérielles, images de vidéosurveillance et témoignages), pour finalement les admettre devant le ministère public ou les premiers juges. Elle a également fait référence à une absence totale de prise de conscience de l'intéressé du caractère répréhensible de ses actes. Dans ces conditions, elle était fondée à tenir compte de cette circonstance comme facteur aggravant de la peine. Mal fondé, le grief soulevé doit être rejeté. Pour le surplus, le recourant ne conteste pas les autres critères pris en compte par la cour cantonale dans le cadre de la fixation de la peine, de sorte qu'il n'y a pas lieu d'examiner ce point plus avant.
2.
Le recourant se plaint d'une violation des art. 42 et 50 CP.
2.1. Aux termes de l'<ref-law>, le juge suspend en règle générale l'exécution d'une peine privative de liberté de six mois au moins et de deux ans au plus lorsqu'une peine ferme ne paraît pas nécessaire pour détourner l'auteur d'autres crimes ou délits.
Pour l'octroi ou le refus du sursis, le juge doit poser un pronostic quant au comportement futur de l'auteur. La question de savoir si le sursis serait de nature à détourner le prévenu de commettre de nouvelles infractions doit être tranchée sur la base d'une appréciation d'ensemble, tenant compte des circonstances de l'infraction, des antécédents de l'auteur, de sa réputation et de sa situation personnelle au moment du jugement, notamment de l'état d'esprit qu'il manifeste. Le pronostic doit être posé sur la base de tous les éléments propres à éclairer l'ensemble du caractère du prévenu et ses chances d'amendement. Il n'est pas admissible d'accorder un poids particulier à certains critères et d'en négliger d'autres qui sont pertinents. Le juge doit par ailleurs motiver sa décision de manière suffisante (cf. <ref-law>). Sa motivation doit permettre de vérifier s'il a tenu compte de tous les éléments pertinents et comment ils ont été appréciés. Le sursis est la règle dont on ne peut s'écarter qu'en présence d'un pronostic défavorable. Le sursis prime en cas d'incertitude (cf. <ref-ruling> consid. 2.1 p. 185 s. et les références citées).
2.2. Le recourant reproche à la cour cantonale d'avoir omis de prendre en compte la période particulièrement difficile qu'il aurait traversée entre octobre 2012 et novembre 2014 en raison de l'accusation de viol dont il faisait l'objet, le fait qu'il aurait mis fin à ses agissements plus d'une année avant que la cour cantonale ne statue et qu'il aurait exécuté 77 jours de peine privative de liberté dès le 18 juin 2015, ce qui l'aurait conforté dans sa volonté de tout mettre en oeuvre pour améliorer sa situation, ainsi que son inscription à une future formation.
Ces éléments ne permettent toutefois pas de renverser le pronostic défavorable retenu par la cour cantonale. En effet, sa condamnation prononcée le 14 décembre 2011 à une peine ferme de trois mois ne l'a pas dissuadé de commettre de nouvelles infractions par la suite. Ainsi, rien ne permet concrètement de penser que les 77 jours de peine privative de liberté qu'il allègue avoir subis dès le 18 juin 2015 auraient davantage d'effet. Il en va de même de la période difficile qu'il dit avoir traversée entre octobre 2012 et novembre 2014. Outre qu'on ne distingue pas en quoi cet élément justifierait les infractions commises, il n'est pas de nature à influer positivement le pronostic défavorable posé, ce d'autant qu'il a commencé à s'adonner à des activités délictuelles bien avant cette époque. L'absence de récidive mise en avant durant l'année précédant l'arrêt attaqué n'est pas non plus pertinente, dès lors qu'un tel comportement correspond à ce que l'on doit pouvoir attendre de tout un chacun (arrêts 6B_1249/2015 du 7 juillet 2016 consid. 5.6; 6B_1154/2014 du 31 mai 2016 consid. 4.4). Enfin, son inscription à une future formation, dont la cour cantonale a tenu compte, est de peu de poids et ne permet pas de renverser le pronostic défavorable, compte tenu des éléments retenus en sa défaveur, savoir ses nombreux antécédents, partiellement spécifiques, son absence de prise de conscience et sa situation personnelle précaire.
En définitive, le recourant ne cite aucun élément propre à modifier l'appréciation de la cour cantonale quant au pronostic sur son comportement futur qui aurait été omis ou pris en considération à tort par celle-ci. Au vu des circonstances, qui ont fait l'objet d'une motivation détaillée et conforme aux exigences de l'<ref-law> à laquelle on peut renvoyer (<ref-law>; arrêt entrepris p. 15 s.), il n'apparaît pas que l'émission d'un pronostic défavorable procède d'un excès ou d'un abus du large pouvoir d'appréciation dont dispose la cour cantonale.
Mal fondé, le grief tiré de la violation des art. 42 et 50 CP doit donc être rejeté, dans la mesure de sa recevabilité.
3.
Le recourant conteste le refus de lui allouer une indemnité de 10'000 fr. au titre de réparation du tort moral résultant de la procédure pénale menée à son encontre (cf. art. 429 al. 1 let. c CPP). Il se plaint d'une violation de l'<ref-law>.
3.1. Selon l'art. 429 al. 1 let. c CPP, si le prévenu est acquitté totalement ou en partie ou s'il bénéficie d'une ordonnance de classement, il a droit à une réparation du tort moral subi en raison d'une atteinte particulièrement grave à sa personnalité, notamment en cas de privation de liberté. L'autorité pénale examine d'office les prétentions du prévenu. Elle peut enjoindre à celui-ci de les chiffrer et de les justifier (<ref-law>). La jurisprudence a déduit de cette dernière disposition qu'il incombe à l'autorité pénale, à tout le moins, d'interpeller le prévenu sur la question de l'indemnité et de l'enjoindre au besoin de chiffrer et justifier ses prétentions en indemnisation (<ref-ruling> consid. 1.3.1 p. 240). L'<ref-law> ne dispense toutefois pas le prévenu acquitté, qui supporte le fardeau de la preuve, de collaborer avec le juge (cf. WEHRENBERG/FRANK, in Basler Kommentar, Schweizerische Strafprozessordnung, 2 e éd. 2014, n o 31a ad <ref-law>).
L'<ref-law> fonde un droit à des dommages et intérêts et à une réparation du tort moral résultant d'une responsabilité causale de l'Etat. La responsabilité est encourue même si aucune faute n'est imputable aux autorités. L'Etat doit réparer la totalité du dommage qui présente un lien de causalité avec la procédure pénale, au sens du droit de la responsabilité civile (<ref-ruling> consid. 1.3.1 p. 239). Le lien de causalité s'apprécie selon les principes de la causalité naturelle et adéquate et selon le degré de la haute vraisemblance ( arrêt 6B_928/2014 du 10 mars 2016 consid. 2, non publié in <ref-ruling> et la référence citée).
3.2. Lorsque, du fait de la procédure, le prévenu a subi une atteinte particulièrement grave à ses intérêts personnels au sens des <ref-law> ou 49 CO, il aura droit à la réparation de son tort moral. L'intensité de l'atteinte à la personnalité doit être analogue à celle requise dans le contexte de l'<ref-law> (cf. arrêt 6B_928/2014 précité consid. 5.1, non publié in <ref-ruling> et la référence citée).
Outre la détention, peut constituer une grave atteinte à la personnalité, par exemple, une arrestation ou une perquisition menée en public ou avec un fort retentissement médiatique, une durée très longue de la procédure ou une importante exposition dans les médias, ainsi que les conséquences familiale, professionnelle ou politique d'une procédure pénale, de même que les assertions attentatoires aux droits de la personnalité qui pourraient être diffusées par les autorités pénales en cours d'enquête. En revanche, il n'y a pas lieu de prendre en compte les désagréments inhérents à toute poursuite pénale comme la charge psychique que celle-ci est censée entraîner normalement chez une personne mise en cause (cf. arrêt 6B_928/2014 précité consid. 5.1, non publié in <ref-ruling> et les références citées).
La gravité objective de l'atteinte doit être ressentie par le prévenu comme une souffrance morale. Il incombe à ce dernier de faire état des circonstances qui font qu'il a ressenti l'atteinte comme étant subjectivement grave (<ref-ruling> consid. 2b p. 99). La fixation du tort moral procède d'une appréciation des circonstances et l'autorité compétente bénéficie d'un large pouvoir d'appréciation en la matière. Le Tribunal fédéral n'intervient que si l'autorité précédente a mésusé de son pouvoir d'appréciation en se fondant sur des considérations étrangères à la disposition applicable, en omettant de tenir compte d'éléments pertinents ou encore en fixant une indemnité inéquitable parce que manifestement trop faible ou trop élevée (arrêt 6B_928/2014 précité consid. 5.1, non publié in <ref-ruling>; <ref-ruling> consid. 5.1 p. 705).
3.3. La cour cantonale a jugé que si le recourant avait effectivement été acquitté de l'accusation de viol après trois ans et demi de procédure, il n'avait été détenu pour ce motif que quelques heures dans les locaux de la police, avant d'être relaxé. Un jour de détention devait être déduit de sa peine pour ce motif. Il avait été condamné au tiers des frais de la procédure de première instance, au vu des autres infractions dont il avait été reconnu coupable. Au surplus, le recourant, qui avait le fardeau de la preuve, n'établissait aucunement avoir subi une atteinte grave à sa personnalité du fait de l'accusation de viol, au-delà des inconvénients inhérents à toute procédure pénale. La procédure n'avait pas été médiatisée. Le recourant n'avait fourni aucun élément permettant de retenir un lien de causalité entre son passage dans les locaux de la police le 22 février 2012 et la perte d'un emploi, d'un logement ou la rupture d'une relation sentimentale. La suspension de son permis d'établissement jusqu'à droit jugé dans la présente procédure était également due aux nombreuses infractions pour lesquelles il avait été condamné. Là encore, le recourant n'établissait pas un échec dans une recherche d'emploi pour ce motif. Les conditions d'octroi d'une indemnité pour tort moral n'étaient pas réalisées, ce qui conduisait à la confirmation de la décision des premiers juges sur ce point.
3.4. Le recourant soutient que la perte de son logement et de son emploi et la rupture de sa relation sentimentale seraient dues à l'accusation de viol. Il fait valoir que le « timing » entre cette accusation et les événements qui s'en sont suivis aurait dû constituer un indice suffisant pour retenir le lien de causalité, respectivement prétend ne pas voir quelle autre preuve il aurait pu amener pour démontrer ce lien, les conséquences d'une accusation de viol sur une personne relevant d'un fait notoire ou à tout le moins confineraient au fait notoire. Ce faisant, le recourant s'en prend clairement à l'appréciation de la cour cantonale relative à la causalité naturelle, qui est une question de fait. Le Tribunal fédéral ne revoit cet aspect que sous l'angle de l'arbitraire (cf. <ref-ruling> consid. 2.6 p. 517 s.; sur la notion d'arbitraire, <ref-ruling> consid. 4.1 p. 566).
3.5. On comprend de la motivation de la cour cantonale qu'elle a admis, après avoir procédé à une appréciation des preuves, la réalité et la chronologie des événements invoqués par le recourant (perte de son emploi et de son logement, rupture sentimentale) pour prétendre à une indemnité pour tort moral. On cherche en vain, dans le raisonnement de l'autorité précédente (cf. supra consid. 3.3) - qui doit trancher selon la règle de la haute vraisemblance (cf. supra consid. 3.1) -, les motifs objectifs sur lesquels elle s'est fondée pour nier un lien de causalité naturelle entre l'accusation de viol et les événements concrets que le recourant a subis par la suite dans le cadre de sa vie privée et professionnelle. Or, il est constant qu'une procédure portant sur une telle infraction menée à l'encontre d'une personne est propre à provoquer une atteinte grave à ses intérêts personnels, ce d'autant plus lorsque la procédure dure plus de trois ans, comme c'est le cas en l'espèce. Dans ces circonstances et telle qu'elle est articulée, la motivation cantonale ne permet pas de comprendre les raisons qui ont conduit les juges à nier un lien de causalité naturelle; elle apparaît ainsi arbitraire, ce qui justifie d'admettre le recours sur ce point.
4.
Il résulte de ce qui précède que le recours doit être partiellement admis, l'arrêt attaqué annulé et la cause renvoyée à l'autorité précédente pour nouvelle décision. Le recours est rejeté pour le surplus, dans la mesure de sa recevabilité.
Le recourant a requis l'assistance judiciaire. Il peut prétendre à une indemnité de dépens réduite pour le grief admis, laquelle sera mise à la charge du canton de Genève (<ref-law>), ce qui rend sa demande d'assistance judiciaire sans objet dans cette mesure. Elle est rejetée pour le surplus, le recours étant dénué de chances de succès en ce qui concerne les autres griefs (<ref-law>). Le recourant supporte des frais réduits eu égard à l'issue de la cause et à sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis partiellement. L'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision. Pour le surplus, le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée dans la mesure où elle n'est pas sans objet.
3.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4.
Le canton de Genève versera au conseil du recourant une indemnité réduite de 1'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
5.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale d'appel et de révision.
Lausanne, le 2 juin 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Nasel