Faits :
A.
X._ a été condamné, par jugement du Tribunal correctionnel genevois du 9 mai 2014, à une peine privative de liberté de trois ans et six mois, sous déduction de la détention subie avant jugement.
Par décision du 10 novembre 2015, le Département genevois de la Sécurité et de l'économie (ci-après: DSE) a constaté que les conditions dans lesquelles s'était déroulée la détention de X._ entre le 9 mai et le 30 novembre 2014 étaient licites.
B.
Par arrêt du 16 août 2016, la Cour de justice de la République et canton de Genève, Chambre administrative, a rejeté le recours interjeté par X._ contre la décision du DSE.
Il ressort de l'arrêt cantonal que, du 9 mai au 25 novembre 2014, la surface nette de la cellule que partageait X._ avec deux codétenus était de 10.83 m2 (surface de douche déduite). Il disposait dès lors d'une surface individuelle nette de 3.61 m2 durant 201 jours. Pendant cette période, il a bénéficié d'une heure de promenade quotidienne, d'une heure de sport hebdomadaire ainsi que de la possibilité de pratiquer une heure de sport supplémentaire deux à trois fois par semaine. Par ailleurs, il a travaillé dans un atelier cinq heures par jour durant cinq jours chaque semaine.
C.
X._ forme un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt cantonal et conclut, avec suite de frais et dépens, à sa réforme en ce sens qu'il soit constaté que ses conditions de détention étaient illicites du 9 mai au 25 novembre 2014 et qu'une indemnité de 63'200 fr. lui soit versée à titre de réparation. Subsidiairement, il conclut au renvoi de la cause à l'autorité cantonale. Il requiert par ailleurs, le bénéfice de l'assistance judiciaire.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 2.1 p. 397; <ref-ruling> consid. 2 p. 59).
1.1. Selon l'art. 33 let. a du Règlement du 20 novembre 2006 du Tribunal fédéral (RTF; RS 173.110.131), la Cour de droit pénal traite les recours en matière pénale ainsi que les recours en matière de droit public et les recours constitutionnels subsidiaires en matière pénale dans les domaines relevant du droit pénal matériel (y compris l'exécution des peines et des mesures).
1.2. En l'occurrence, le recours porte sur les conditions de détention du recourant en exécution de peine, de sorte qu'il doit être traité par la Cour de droit pénal. Dans la mesure où la valeur litigieuse minimale de 30'000 fr. est atteinte au sens de l'<ref-law> en l'espèce, le recours est recevable (cf. arrêt 6B_703/2016 du 2 juin 2017 consid. 1.1 sur les conditions de recevabilité en la matière).
2.
Le recourant reproche à la cour cantonale d'avoir arbitrairement établi les faits s'agissant du temps passé en dehors de sa cellule, en particulier à l'atelier de reliure.
2.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (<ref-law>), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. Il n'entre ainsi pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2.4 p. 368).
2.2. Relevant que le recourant alléguait sans justificatif ni autre forme de démonstration, que l'activité de son atelier n'était pas permanente, la cour cantonale a retenu, notamment sur la base d'un rapport de la prison de Champ-Dollon du 6 novembre 2015, qu'il pouvait passer cinq heures hors de sa cellule de manière régulière cinq jours par semaine pour travailler.
2.3. Par un procédé purement appellatoire, partant irrecevable, le recourant affirme qu'il est notoirement impossible d'assurer aux détenus de Champ-Dollon des conditions de détention décentes, y compris au niveau des activités salariées et que les heures effectuées au sein de l'atelier dépendaient des commandes. Au demeurant, il ne prétend pas que les commandes étaient insuffisantes et auraient induit la fermeture de l'atelier. D'ailleurs, pour déterminer le temps passé hors cellule, il importe peu de savoir dans quelle mesure le recourant a effectivement fourni des prestations contre salaire.
En tant que le recourant prétend, de manière générale, qu'il y a un minimum de 6 mois d'attente pour obtenir une place de travail et que la seule possibilité théorique de travailler ne suffit pas pour établir les heures passées à l'atelier de reliure, il n'apporte aucun élément pertinent quant à l'établissement des faits. En particulier, il ne tente pas de démontrer l'arbitraire de l'appréciation faite par la cour cantonale du rapport du 6 novembre 2015, dont il ressort que le recourant a bénéficié d'une place de travail au sein de l'atelier du livre cinq heures par jour, cinq jours par semaine (rapport du 6 novembre 2016 ch. 1.6.e et 2.2).
Le recourant est irrecevable à requérir, pour la première fois devant le Tribunal fédéral, un décompte des heures passées au sein de l'atelier à ce stade de la procédure, alors qu'une telle requête ne ressort ni de son mémoire de recours cantonal, ni de ses déterminations auprès de la cour cantonale. Dans ces circonstances, il ne saurait faire valoir une violation de son droit d'être entendu.
3.
Le recourant reproche à la cour cantonale d'avoir violé l'art. 3 CEDH en considérant que ses conditions de détention pendant la période litigieuse étaient licites.
3.1. Le Tribunal fédéral a jugé qu'en cas de surpopulation carcérale telle que la connaît la prison de Champ-Dollon, l'occupation d'une cellule dite individuelle par trois détenus - chacun disposant d'un espace individuel de 4 m2, restreint du mobilier - est une condition de détention difficile; elle n'est cependant pas constitutive d'une violation de l'art. 3 CEDH et ne représente pas un traitement dégradant portant atteinte à la dignité humaine des prévenus.
En revanche, l'occupation d'une cellule dite triple par six détenus avec une surface individuelle inférieure à 3,83 m2 - restreinte encore par le mobilier - peut constituer une violation de l'art. 3 CEDH si elle s'étend sur une longue période et si elle s'accompagne d'autres mauvaises conditions de détention. Il faut dès lors considérer la période pendant laquelle le recourant a été détenu dans les conditions incriminées. Une durée qui s'approche de trois mois consécutifs (délai que l'on retrouve en matière de contrôle périodique de la détention provisoire ou pour des motifs de sûreté; cf. <ref-law>) apparaît comme la limite au-delà de laquelle les conditions de détention susmentionnées ne peuvent plus être tolérées. En effet, si les conditions de détention provisoire peuvent être plus restrictives lorsque les risques de fuite, de collusion et de récidive sont plus élevés, ou lorsque l'ordre et la sécurité dans la prison sont particulièrement mis en danger, cela ne vaut pas lorsque la durée de la détention provisoire est de l'ordre de trois mois. Ce délai ne peut cependant pas être compris comme un délai au sens strict du terme mais comme une durée indicative à prendre en compte dans le cadre de l'appréciation globale de toutes les conditions concrètes de détention. La durée très limitée des périodes que le recourant est autorisé à passer hors de la cellule aggrave encore la situation (une heure de promenade en plein air par jour) (<ref-ruling> consid. 3.6.3 p. 138 s., traitant d'une détention de 157 jours avec confinement de 23h/24h).
S'agissant du nombre journalier d'heures passées en cellule, la possibilité de sortir de la cellule, entre 1 heure et 5 heures 45 par jour une semaine sur deux, ne suffit pas en soi, dans la situation telle que décrite précédemment de la prison de Champ-Dollon, à rendre ces conditions de détention conformes à l'art. 3 CEDH (arrêt 1B_239/2015 du 29 septembre 2015 consid. 2.5.3). Le Tribunal fédéral a aussi considéré que, compte tenu de la longueur de la période considérée (635 jours), la possibilité de sortir de la cellule, entre 3 heures 30 et 5 heures 30 par jour, était certes susceptible d'alléger les conditions de détention; cette seule circonstance ne suffisait cependant pas en soi, dans la situation telle que décrite précédemment de la prison de Champ-Dollon, à rendre ces conditions de détention conformes à l'art. 3 CEDH. Un confinement en cellule respectivement de 20 heures 30, de 19 heures 30 et de 18 heures 30 sur 24 heures demeure une condition de détention difficile qui n'est pas propre à améliorer suffisamment les conditions décrites au point de les rendre licites (arrêt 1B_84/2016 du 27 juillet 2016 consid. 2.4).
Dans un arrêt récent, le Tribunal fédéral a jugé que le fait de passer pendant 114 jours, entre 4 heures 30 et 7 heures 15 par jour hors de la cellule, réduit de manière significative le confinement en cellule et permet de considérer que la détention dans de telles conditions ne constitue pas un traitement dégradant portant atteinte à la dignité humaine. Ce d'autant lorsque les codétenus partageant la cellule sont aussi absents quotidiennement pendant plusieurs heures, à des moments différents (arrêt 1B_394/2016 du 25 avril 2017 consid. 2.4).
3.2. En l'occurrence, le recourant a passé une période de 201 jours sans interruption dans une cellule avec une surface individuelle de moins de 4 m2. Cette durée dépasse les trois mois consécutifs apparaissant comme la limite au-delà de laquelle les conditions de détention susmentionnées ne peuvent plus être tolérées (<ref-ruling> consid. 3.6.3 p. 138).
A teneur de l'état de fait cantonal, dont l'arbitraire n'a pas été démontré, le recourant a pu travailler cinq heures par jour, cinq jours par semaine et bénéficier d'une heure de promenade quotidienne, d'une heure de sport hebdomadaire ainsi que de la possibilité de pratiquer une heure de sport supplémentaire deux à trois fois par semaine. Il en résulte que, pendant toute la période considérée, le recourant pouvait sortir quotidiennement de sa cellule entre 6 et 7 heures, cinq jours par semaine, et entre 1 et 2 heures les jours restant. En moyenne, il a passé 5 heures par jour (5 heures de travail 5 jours par semaine, 1 heure de promenade quotidienne et 30 minutes en moyenne de sport par jour) hors de sa cellule.
Or le fait de passer durant 201 jours 5 heures en moyenne hors de la cellule, ce de manière continue, chaque semaine, réduit de manière significative le confinement en cellule et permet de considérer que la détention dans de telles conditions ne constitue pas un traitement dégradant portant atteinte à la dignité humaine. Par ailleurs, le recourant ne conteste pas qu'en termes d'hygiène, d'aération, de visites, d'installations sanitaires, de régime alimentaire, d'éclairage, de chauffage et d'accès aux soins, les conditions de détention étaient convenables.
Le recourant ne saurait rien déduire en sa faveur de l'arrêt traitant d'un détenu ayant passé 328 jours dans une cellule de moins de 4 m2 de surface individuelle et pouvant sortir de sa cellule entre 1 heure et 5 heures 45 par jour une semaine sur deux (à savoir en moyenne moins de 3 heures 30), compte tenu notamment des différences significatives de durée de détention et de confinement (cf. arrêt 1B_239/2015 du 29 septembre 2015 consid. 2.5.3).
3.3. Au vu de ce qui précède, pour la période allant du 9 mai au 25 novembre 2014, la cour cantonale pouvait considérer, sans violer le droit fédéral, que les conditions de détention du recourant, pour difficiles qu'elles aient été, respectaient les exigences constitutionnelles et étaient conformes à l'art. 3 CEDH.
4.
Le recours doit être rejeté dans la mesure où il est recevable. Comme le recours était voué à l'échec, l'assistance judiciaire ne peut être accordée (<ref-law>). Le recourant devra donc supporter les frais judiciaires (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière, laquelle n'apparaît pas favorable (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La requête d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'200 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 28 août 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Klinke