Faits :
A.
Par jugement du 9 mars 2015, le Tribunal de police de la République et canton de Genève a reconnu X._ coupable de rixe et A._ d'agression. Tous les deux ont été condamnés à une peine pécuniaire de trente jours-amende à 30 fr. le jour, avec sursis durant trois ans. Dans le cadre de la même procédure, B._ a été reconnu coupable de lésions corporelles simples avec un objet dangereux au préjudice de C._ et condamné à une peine pécuniaire de quarante-cinq jours-amende à 30 fr. le jour.
B.
Par arrêt du 27 avril 2016, la Chambre pénale d'appel et de révision de la Cour de justice de la République et canton de Genève a, d'une part, rejeté l'appel de X._ ainsi que l'appel joint de C._ formés contre le jugement du Tribunal de police et les a condamnés aux frais d'appel. En revanche, elle a admis l'appel d'A._ et l'a acquitté.
L a cour cantonale a retenu en substance les faits suivants:
Le 21 juillet 2011 vers 0h45, à Genève, une bagarre a opposé B._, A._ et une tierce personne non identifiée à C._ et son fils X._. Importuné par le bruit, alors qu'il arrosait des plantes depuis son balcon, C._ a été insulté par ses interlocuteurs postés dans la rue, lorsqu'il leur a demandé de baisser la musique. Il est sorti de son appartement et s'est dirigé vers eux. Après un échange d'insultes, B._ a notamment frappé C._ au visage avec la boucle de sa ceinture. Afin de défendre son père, X._, qui s'était joint à la bagarre dans l'intervalle, s'en est pris, entre autres, à B._ en lui donnant des coups de poing au visage et plusieurs coups de pied lorsqu'il gisait au sol. Deux correspondantes de nuit de la Commune de Vernier, D._ et E._, qui patrouillaient à proximité des lieux, ont observé la fin de la scène et sont intervenues afin d'arrêter la bagarre. Elles ont ensuite appelé les secours.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt cantonal. Principalement, il conclut avec suite de frais et dépens, à son acquittement de l'infraction de rixe, en application de l'<ref-law>. Subsidiairement, il conclut à ce que la cause soit renvoyée à l'autorité cantonale pour une nouvelle décision dans le sens des considérants. Il sollicite également l'assistance judiciaire.

Considérant en droit :
1.
Le recourant fait grief à la cour cantonale d'avoir considéré sur la base d'une appréciation arbitraire des preuves et en violation du principe de la présomption d'innocence qu'il ne s'était pas limité à repousser une attaque pour se défendre et défendre son père, mais qu'il avait excédé le cadre du comportement visé par l'<ref-law> en portant plusieurs coups à B._ en particulier lorsque celui-ci était au sol.
1.1. Le Tribunal fédéral est lié par les constatations de fait de la décision entreprise (<ref-law>), sous les réserves découlant des art. 97 al. 1 et 105 al. 2 LTF, à savoir pour l'essentiel l'arbitraire dans la constatation des faits (sur cette notion, <ref-ruling> consid. 3.4 p. 53; <ref-ruling> consid. 6.1 p. 205 et les références citées). En bref, une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable, et cela non seulement dans sa motivation mais aussi dans son résultat. En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.3 p. 266).
La présomption d'innocence, garantie par les <ref-law>, 32 al. 1 Cst., 14 par. 2 Pacte ONU II et 6 par. 2 CEDH, ainsi que son corollaire, le principe in dubio pro reo, concernent tant l'appréciation des preuves que le fardeau de la preuve (<ref-ruling> consid. 2a p. 40 s.). Lorsque, comme en l'espèce, l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe in dubio pro reo, celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82). Le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce moyen est invoqué et motivé par le recourant (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée. Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 1.3.1 p. 253; <ref-ruling> consid. 2.3 p. 266).
1.2. Pour retenir que le recourant avait assené à B._ plusieurs coups de poing puis avait continué à le frapper, avec ses pieds, alors que celui-ci était tombé à terre, la cour cantonale s'est notamment basée sur les déclarations concordantes des deux correspondantes de nuit en relevant qu'il s'agissait de témoins extérieures à la cause, sans intérêt subjectif à soutenir l'un ou l'autre des groupes antagonistes. Celles-ci avaient insisté sur la violence unilatérale des nombreux coups donnés par le recourant à B._, au point qu'elles pensaient que celui-ci était mort. Ces allégations confirmaient la force et l'intensité de l'agression du recourant. Le recourant ne pouvait rien tirer en sa faveur du certificat médical produit par B._, lequel faisait état de plusieurs coups à la tête. En outre les explications tardives du recourant selon lesquelles il n'aurait pas pu donner des coups de pieds en raison d'un accident de ski n'étaient pas étayées. Au regard de ces éléments, elle a considéré que la version du recourant selon laquelle il s'était limité à repousser B._ en ne lui portant qu'un seul coup, n'était pas crédible.
1.3. Le recourant échoue à démontrer l'arbitraire dans l'appréciation des preuves. C'est en contradiction manifeste avec le procès-verbal d'audition du 13 mars 2013 de E._ qu'il fait valoir que, lors de cette audience de confrontation, cette dernière n'a plus fait état de coups portés par lui-même à B._ lorsqu'il était au sol. Il ressort de ce procès-verbal que la témoin en question a expressément déclaré que B._ avait reçu plusieurs coups de pied violents de la part de X._ lorsqu'il gisait au sol (cf. procès-verbal d'audience du 13 mars 2013 p. 9). La critique du recourant sur l'appréciation par la cour cantonale du certificat médical produit par B._ est infondée. D'une part ce certificat mentionne (faits rapportés) que la victime a reçu plusieurs coups sur la tête, puis a chuté avec perte de connaissance, d'autre part, le constat d'une seule trace visible d'un coup sous la forme d'un hématome, n'exclut pas que d'autres coups aient été portés. La cour cantonale pouvait donc en inférer sans arbitraire que le recourant ne pouvait rien en tirer en sa faveur.
Au vu de l'ensemble des éléments, la cour cantonale pouvait sans arbitraire considérer que le recourant ne s'était pas limité à porter un seul coup à B._ mais l'avait frappé de plusieurs coups de poing et de pied.
2.
Le recourant reproche à la cour cantonale d'avoir violé le droit fédéral en refusant de considérer qu'il pouvait se prévaloir du motif justificatif tiré de l'<ref-law>.
2.1. Selon l'<ref-law>, celui qui aura pris part à une rixe ayant entraîné la mort d'une personne ou une lésion corporelle sera puni d'une peine privative de liberté de trois ans au plus ou d'une peine pécuniaire (al. 1). N'est pas punissable celui qui se sera borné à repousser une attaque, à défendre autrui ou à séparer les combattants (al. 2).
Le recourant ne conteste pas, à raison, avoir pris part à une bagarre généralisée mettant aux prises cinq personnes qui a entraîné des lésions corporelles sur certains des participants. C'est à bon droit que la cour cantonale a qualifié cette altercation physique de rixe (sur cette infraction, cf. <ref-ruling> consid. 1.1.1 p. 170 et les références citées).
Se borne à repousser une attaque, à défendre autrui ou à séparer les combattants au sens de l'<ref-law>, celui qui participe effectivement à la rixe par son engagement physique, mais qui a pour but exclusif de se protéger, protéger un tiers ou séparer les protagonistes. Il agit alors seulement pour défendre sa personne ou d'autres individus ou pour séparer les adversaires. Par son comportement, il ne provoque ni n'alimente le combat d'une quelconque manière. Il n'augmente pas les risques propres à la rixe voire cherche à les éliminer (<ref-ruling> consid. 2.1.2 p. 153).
2.2. En tant que le recourant fonde son argumentation sur sa propre version des faits, laquelle a été écartée sans arbitraire par la cour cantonale (cf. supra consid. 1.3), il n'y a pas lieu d'entrer en matière sur son grief.
Par ailleurs, c'est en vain qu'il rappelle que lui et son père s'opposaient à trois individus dont l'un s'est servi de sa ceinture pour blesser son père, afin de tenter de justifier le caractère proportionné de son acte. En effet, ces éléments ne permettent pas de retenir que le recourant se serait borné à repousser une attaque. Au contraire, en s'en prenant de la sorte à B._ notamment à un moment où ce dernier était à terre, c'est-à-dire à un moment où ni le recourant ni son père ne se trouvaient plus en situation de défense, il a effectivement alimenté le combat et a augmenté les risques propres à la rixe plutôt que de chercher à les éliminer.
C'est ainsi sans violation du droit fédéral que la cour cantonale a retenu que le recourant avait dépassé les limites de la simple défense et avait activement participé à la rixe (<ref-law>).
3.
Le recourant reproche à la cour cantonale d'avoir violé le droit fédéral quant au processus de fixation de la peine en omettant d'examiner la circonstance atténuante de l'émotion violente de l'art. 48 let. c CP, faisant valoir qu'il était en proie à une telle émotion.
3.1. La cour cantonale a considéré que la peine de trente jours-amende à 30 fr. le jour avec sursis, tenait compte de manière adéquate de la gravité de la faute et de la situation personnelle et économique du recourant. La peine fixée par les premiers juges résultait d'une application correcte des critères fixés aux art. 34 ss et 47 ss CP. Elle a ainsi confirmé la peine fixée par le jugement de première instance, qui a été motivée de manière détaillée. En particulier, le tribunal a estimé que le recourant ne pouvait bénéficier de la circonstance atténuante de l'émotion violente à cause de la disproportion évidente entre l'attaque dont son père a fait l'objet et le comportement du recourant à l'encontre de B._ (cf. arrêt entrepris consid. 3; jugement de première instance consid. 3.1.1 à 3.2.1).
3.2. Les règles générales régissant la fixation de la peine (<ref-law>) ont été rappelées dans les arrêts publiés aux <ref-ruling> et 136 IV 55, auxquels on peut se référer.
Selon l'art. 48 let. c CP, le juge atténue la peine si l'auteur a agi en proie à une émotion violente que les circonstances rendaient excusable ou s'il a agi dans un état de profond désarroi. L'émotion violente est un état psychologique particulier, d'origine émotionnelle et non pathologique, qui se manifeste lorsque l'auteur est submergé par un sentiment violent qui restreint dans une certaine mesure sa faculté d'analyser correctement la situation ou de se maîtriser (<ref-ruling> consid. 2a p. 203).
Il faut qu'il existe une certaine proportionnalité entre la provocation, d'une part, et la réaction de l'auteur, d'autre part (arrêt 6B_622/2008 du 13 janvier 2009 consid. 8.1; 6B_517/2008 du 27 août 2008 consid. 5.3.2).
3.3. La cour cantonale a constaté dans son considérant relatif à la fixation de la peine que le recourant n'avait contesté en appel ni la nature ni la quotité de la peine, ce que le recourant ne discute pas. Ce nonobstant, la cour cantonale a examiné l'adéquation de la peine fixée par les premiers juges à la lumière des <ref-law>. Même succincte, la motivation est suffisante en ce qu'elle permet de comprendre qu'elle a fait siennes les considérations du Tribunal de police sur ce point.
En tout état, le recourant n'expose pas sur quels éléments il se fonde pour se prévaloir d'une émotion violente et ne se plaint pas d'arbitraire dans l'omission de faits pertinents sous cet angle. Lorsqu'il évoque avoir vu son père tomber sous les coups de ceinture métallique, le visage ensanglanté, il s'écarte de manière irrecevable des faits retenus. La seule circonstance qu'il soit venu au secours de son père n'est pas suffisante à établir un état d'émotion violente au sens de la jurisprudence. En revanche, en continuant à frapper son adversaire alors que ce dernier était au sol, le recourant a fait un usage disproportionné de la force au vu des circonstances.
Par conséquent, son grief tiré d'une violation de l'art. 48 let. c CP est infondé.
4.
Le recourant soutient en outre que la cour cantonale a violé l'<ref-law> en lui refusant toute indemnité. Compte tenu du sort du recours, sa demande d'indemnisation pour les dépenses occasionnées par l'exercice raisonnable des droits de procédure s'épuise.
5.
Le recours est rejeté, dans la mesure de sa recevabilité. Dès lors que les conclusions étaient vouées à l'échec, la requête d'assistance judiciaire doit être rejetée (<ref-law>). Le recourant qui succombe supportera les frais judiciaires, qui seront fixés en tenant compte de sa situation économique (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'600 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Chambre pénale de recours de la Cour de justice de la République et canton de Genève.
Lausanne, le 13 décembre 2016
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Klinke