Faits:
A. Par jugement du 19 août 2011, le Tribunal correctionnel du canton de Genève a reconnu Y._ coupable de brigandage aggravé, de vol, de dommages à la propriété et de violation de domicile et l'a condamné à une peine privative de liberté de 4 ans, tenant compte d'un repentir sincère.
B. Par arrêt du 14 décembre 2011, la Chambre pénale d'appel et de révision de la Cour de justice genevoise a rejeté l'appel interjeté par Y._. Elle a, en revanche, admis celui du Ministère public et réformé le jugement en ce sens que Y._ a été condamné à une peine privative de liberté de 4 ans et 6 mois, la circonstance atténuante du repentir sincère n'étant pas retenue.
En bref, il ressort les éléments suivants de cet arrêt.
Le 6 mai 2008, Y._ et un comparse ont pénétré chez B._ et ont dérobé des objets d'art anciens et des bijoux.
Le 27 février 2009, Y._ s'est rendu, avec cinq comparses, de Marseille à Genève afin de commettre des cambriolages dans cette ville. Le 28 février 2009 en début de soirée, après des repérages effectués dans la journée, les six comparses ont pénétré, par une fenêtre brisée par l'un d'eux, dans la villa des époux A._. Deux employées de maison, ainsi que la mère de Mme A._ s'y trouvaient. Elles ont été neutralisées et les deux employées ont été violentées pour qu'elles indiquent la combinaison du coffre. Comme elles ne la connaissaient pas, les protagonistes ont descellé le coffre pour l'emmener avec eux. Ils ont toutefois été interrompus par la venue d'un agent de sécurité. Cinq des protagonistes, dont Y._, ont pu prendre la fuite alors que l'un d'eux a été interpellé par l'agent de sécurité. Un briquet en or a été dérobé.
Un montant de 9000 euros a été versé, avant l'audience de première instance, aux victimes au nom de Y._ en remboursement partiel de leur dommage.
C. Y._ forme un recours en matière pénale contre cet arrêt. Il conclut, sous suite de frais et dépens, principalement, à sa réforme en ce sens qu'il est condamné à une peine privative de liberté de 4 ans et, subsidiairement, à l'annulation de la décision et au renvoi du dossier à l'autorité précédente pour nouveau jugement.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Invoquant les art. 6 par. 1 CEDH, 29 al. 2 Cst. et 80 al. 2 CPP, le recourant reproche à l'autorité précédente d'avoir violé son obligation de motivation s'agissant de son refus de retenir le repentir sincère.
1.1 La jurisprudence a déduit du droit d'être entendu consacré à l'art. 29 al. 2 Cst. et de l'art. 6 par. 1 CEDH, qui n'a pas de portée différente dans ce contexte, le devoir pour l'autorité de motiver sa décision, afin que le destinataire puisse la comprendre, la contester utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle. Ce devoir est également consacré à l'<ref-law>, qui n'a toutefois pas de portée propre. Pour répondre à ces exigences, il suffit que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision. Il n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions décisives pour l'issue du litige (<ref-law>; <ref-ruling> consid. 4.1 p.88; <ref-ruling> consid. 3.3 p. 445). La motivation peut pour le reste être implicite et résulter des différents considérants de la décision (arrêt 6B_101/2011 du 14 février 2012 consid. 3.1).
1.2 En l'espèce, la cour cantonale a expliqué les raisons pour lesquelles elle considérait que le recourant ne remplissait pas les conditions du repentir sincère à savoir l'inexistence d'un effort méritoire fondé sur l'absence d'accord sur le remboursement des montants payés aux victimes et de paiement ultérieur du recourant. Celui-ci pouvait comprendre ces motifs et contester utilement cette décision, ce qu'il a d'ailleurs fait. Ce grief est infondé.
2. Le recourant reproche à la cour cantonale d'être tombée dans l'arbitraire en retenant que le versement de 9000 euros en faveur des victimes provenait exclusivement de tiers et qu'il n'existait aucune obligation de rembourser les sommes versées. Il ressortirait du dossier que le montant versé aux victimes provenait du recourant et de ses proches et que ce dernier a proposé de s'engager à réparer tout le solde du dommage subi par les parties plaignantes. Il serait ainsi arbitraire de ne pas le mettre au bénéfice de la circonstance atténuante du repentir sincère.
2.1 Dans le recours en matière pénale, les constatations de fait de la décision entreprise lient le Tribunal fédéral (<ref-law>). Il n'en va différemment que si le fait a été établi en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. (cf. <ref-ruling> consid. 2.4, p. 313; sur la notion d'arbitraire, v. : <ref-ruling> consid. 2.4 p. 5). L'invocation de ce moyen ainsi que, de manière générale, de ceux déduits du droit constitutionnel et conventionnel (<ref-law>), suppose une argumentation claire et détaillée (<ref-ruling> consid. 1.4 p. 287), circonstanciée (<ref-ruling> consid. 3, p. 105). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> c. 5.1 p. 356 et réf. citées).
2.2 Selon l'art. 48 let. d CP, le juge atténue la peine si l'auteur a manifesté par des actes un repentir sincère, notamment s'il a réparé le dommage autant qu'on pouvait l'attendre de lui. Le repentir sincère n'est réalisé que si l'auteur a adopté un comportement désintéressé et méritoire, qui constitue la preuve concrète d'un repentir sincère. L'auteur doit avoir agi de son propre mouvement dans un esprit de repentir, dont il doit avoir fait la preuve en tentant, au prix de sacrifices, de réparer le tort qu'il a causé. Celui qui ne consent à faire un effort particulier que sous la menace de la sanction à venir ne manifeste pas un repentir sincère, il s'inspire de considérations tactiques et ne mérite donc pas d'indulgence particulière (<ref-ruling> consid. 1 p. 99; arrêt 6B_94/2012 du 19 avril 2012 consid. 2.2). Le seul fait qu'un délinquant a passé des aveux ou manifesté des remords ne suffit pas. Il n'est en effet pas rare que, confronté à des moyens de preuve ou constatant qu'il ne pourra échapper à une sanction, un accusé choisisse de dire la vérité ou d'exprimer des regrets. Un tel comportement n'est pas particulièrement méritoire (<ref-ruling> consid. 1 p. 113 s.; arrêt 6B_265/2010 du 13 août 2010 consid.1.1).
2.3 La cour cantonale a constaté que « l'existence d'une obligation de rembourser les sommes versées n'[était] étayée par aucun élément du dossier ». Contrairement à ce que semble penser le recourant, cette affirmation ne se rapporte pas aux propositions qu'il a faites aux victimes en cours d'audience, qui ont été dûment constatées par la cour cantonale. Elle se rapporte à un éventuel engagement du recourant envers ses proches de rembourser les montants payés par ceux-ci aux victimes. Ces deux engagements étant distincts, il n'était pas contradictoire, partant pas arbitraire, de retenir qu'un accord entre le recourant et ses proches n'était pas établi. A cet égard, lorsque le recourant prétend que le paiement effectué par ceux-ci constituait un avancement d'hoirie, il s'écarte de manière irrecevable des faits constatés par l'autorité précédente, qui lient le Tribunal fédéral (<ref-law>).
2.4 Le recourant fait valoir que le versement opéré en faveur des victimes provenait de lui-même et de ses proches.
La cour cantonale a constaté que ce versement provenait exclusivement de tiers. Elle a ainsi procédé à une nouvelle appréciation des preuves faisant usage de son plein pouvoir d'examen (cf. art. 398 al. 2 et 3 CPP). Savoir si cette constatation est arbitraire peut demeurer indécis, dès lors qu'elle n'est pas de nature à faire apparaître la solution retenue comme arbitraire dans son résultat. En effet, même si l'on devait retenir que le recourant a participé au versement, il ne démontre pas que sa propre contribution représenterait une part importante de ce qui a été versé, ni qu'elle constituerait un sacrifice particulier. Il n'est ainsi pas établi que le recourant a participé de manière significative au versement du montant opéré en faveur des victimes, ni qu'il se soit engagé envers ses proches à rembourser tout ou partie de leur participation. En outre, le versement est intervenu avant la décision des premiers juges et n'a pas été suivi d'autres versements du recourant, malgré les propositions formulées lors de l'audience de première instance. Dans ces conditions, l'attitude du recourant ne peut être qualifiée de méritoire. Les regrets tardifs ainsi que les propositions d'indemnisations formulés en audience ne sont, à cet égard, pas suffisants. En l'absence de sacrifice particulier la cour cantonale pouvait, sans violation du droit fédéral, nier la circonstance atténuante du repentir sincère. Le grief doit ainsi être rejeté dans la mesure où il est recevable.
3. Le recours doit ainsi être rejeté dans la mesure où il est recevable. Le recourant, qui succombe, supporte les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre pénale d'appel et de révision.
Lausanne, le 5 juillet 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Livet