Faits : A. A.a. Le 25 novembre 2005, X._, qui est - selon ses dires - né en 1988 et originaire du Soudan, a déposé une demande d'asile en Suisse. Selon une radiographie du poignet réalisée le 28 novembre 2005, l'intéressé serait plutôt né en 1986 au plus tard. Des expertises ultérieures ont conclu qu'il était d'origine kenyane. Par décision du 29 décembre 2005, l'Office fédéral des migrations (devenu entretemps le Secrétariat d'Etat aux migrations; ci-après: le SEM) a rejeté la demande d'asile et prononcé le renvoi de Suisse de l'intéressé. Le recours déposé par celui-ci contre cette décision auprès de la commission suisse de recours en matière d'asile a été rejeté le 12 janvier 2006 et la décision attaquée est entrée en force le 13 janvier 2006. Depuis le début de son séjour en Suisse, X._ a fait l'objet de dix condamnations pénales, principalement pour des infractions à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121) et à la législation fédérale sur les étrangers. A.b. Le 27 février 2013, à la suite de plusieurs difficultés relatives au renvoi de X._, dues en particulier au manque de collaboration de l'intéressé et au refus des autorités kenyanes de le reconnaître comme étant un ressortissant de leur pays, l'Officier de police du canton de Genève (ci-après: l'Officier de police) a placé X._ en détention administrative pour une durée de trois mois. Le 1er mars 2013, le Tribunal administratif de première instance du canton de Genève (ci-après: le TAPI) a confirmé cette décision. La détention de X._ a été régulièrement prolongée par décisions du TAPI des 23 mai 2013, 25 juillet 2013, 26 septembre 2013, 25 novembre 2013 et 23 janvier 2014. Le recours déposé par l'intéressé contre la décision du TAPI du 23 janvier 2014 a été rejeté le 12 février 2014 par la Chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour de justice). X._ a par la suite été libéré (art. 105 al. 2 LTF). A.c. Le 25 juillet 2014, l'Officier de police a prononcé l'assignation à résidence de X._ au territoire de la commune de Vernier, avec résidence au foyer des Tattes, pour une durée d'un an. Cette décision a été confirmée par le TAPI le 27 juillet 2014. Le 15 juin 2015, l'Hospice général a décidé de transférer les hommes célibataires hébergés au foyer des Tattes à l'abri de protection civile d'Annevelle, situé sur le territoire de la commune de Lancy. X._ ne s'est toutefois pas présenté dans ce nouveau lieu et ne s'est manifesté auprès des autorités que le 1er juillet 2015. Le 1er juillet 2015, l'Officier de police a prononcé l'assignation à résidence de X._ au territoire de la commune de Lancy, avec "domicile" à l'abri de protection civile d'Annevelle, jusqu'au 24 juillet 2015. Cette décision était assortie de quelques exceptions, notamment concernant l'accès au centre de santé migrants à Genève, ainsi que l'accès à la permanence médico-chirurgicale de Vermont Grand-Pré SA, également sise sur le territoire de la Ville de Genève. Le 6 juillet 2015, le TAPI a confirmé la décision en question. B. Par jugement du 23 juillet 2015, après avoir entendu les parties, le TAPI a prolongé l'assignation à résidence de X._ au territoire de la commune de Lancy jusqu'au 24 janvier 2016. Par arrêt du 7 août 2015, la Cour de justice a rejeté le recours formé par l'intéressé contre la prolongation de son assignation à résidence. C. Par acte du 14 septembre 2015, X._ dépose un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt de la Cour de justice du 7 août 2015. Il requiert, sous suite de dépens, l'annulation de l'arrêt attaqué et de l'assignation à résidence ordonnée à son encontre. Il sollicite en outre le bénéfice de l'assistance judiciaire. Le Secrétariat d'Etat aux migrations conclut au rejet du recours. Le TAPI renonce à se déterminer. La Cour de justice renonce à formuler des observations et persiste dans les considérants et le dispositif de son arrêt.