Faits: A. A.a A._, né en 1965, et dame A._, née en 1962, se sont mariés le 23 juin 1988 à Carouge. Ils ont adopté le régime de la séparation de biens par contrat de mariage du 26 mai 1988. Le couple a deux enfants: B._, né le 1er novembre 1997, et C._, née le 23 novembre 1999, tous deux adoptés. Les époux A._ vivent séparés depuis le 1er avril 2006. A.b Dame A._ a acquis en 1991, pour 900'000 fr., un bien immobilier sis à X._ et constituant le logement familial. Cette acquisition a été financée par un don de ses parents de 400'000 fr. ainsi que par une dette hypothécaire, à hauteur de 500'000 fr., contractée au nom des deux époux, en qualité de débiteurs solidaires. D'autres contrats de prêts hypothécaires ont par la suite été conclus, le dernier portant sur 450'000 fr. Ils ont été amortis en partie, en particulier par l'époux pour un montant de 14'000 fr. En lien avec le bien immobilier, propriété de son épouse, l'époux a allégué avoir consacré de nombreuses heures à des travaux d'établissement de plans et de rénovation. Il estime y avoir consacré environ 430 heures, correspondant à une rémunération de 34'640 fr., ainsi qu'avoir pourvu à leur financement à hauteur de 165'660 fr. Invoquant la constitution, par actes concluants, d'une société simple tendant à l'acquisition et au développement de la demeure familiale, il entend en outre participer à la plus-value acquise par l'immeuble à raison d'un tiers, cette part ayant été réduite en raison du coût des droits de greffe. B. B.a Par acte déposé le 18 juin 2008, l'époux a formé une requête unilatérale en divorce auprès du Tribunal de première instance du canton de Genève. Par jugement du 15 avril 2010, le tribunal a prononcé la dissolution du mariage contracté par les parties. Il a entre autres attribué l'autorité parentale et la garde sur les deux enfants du couple à la mère; réservé un large droit de visite en faveur du père s'exerçant d'entente entre les parties, mais au minimum une semaine sur deux du mercredi soir 18h00 heures au lundi matin 8h00, ainsi que la moitié des vacances scolaires; condamné ce dernier à contribuer à l'entretien de chacun d'eux par le versement d'une somme mensuelle de 600 fr. jusqu'à l'âge de 15 ans et de 700 fr. jusqu'à la majorité, voire au-delà mais jusqu'à 25 ans au maximum en cas d'études sérieuses; et dit que les époux avaient liquidé leurs rapports patrimoniaux et qu'ils n'avaient plus aucune prétention à faire valoir de ce chef. B.b Statuant sur appel des deux parties, par arrêt du 17 juin 2011, la Cour de justice du canton de Genève a réformé ce jugement en ce sens qu'elle a fixé le droit de visite en faveur du père, à défaut d'entente, jusqu'au dimanche soir 20h00 et condamné l'épouse à verser au mari une somme de 40'000 fr. avec intérêt à 5% dès le 18 juin 2008 à titre d'indemnité équitable au sens de l'art. 165 al. 2 CC. C. L'époux interjette le 18 août 2011 un recours en matière civile au Tribunal fédéral, concluant à la réforme de l'arrêt attaqué en ce sens que l'autorité parentale conjointe des parties sur les enfants soit maintenue et que l'épouse soit condamnée à lui verser une somme de 321'324 fr. 15 avec intérêt à 5% dès le 18 juin 2008. Subsidiairement, il requiert le renvoi de la cause pour nouvelle instruction s'agissant de l'autorité parentale conjointe. Il se plaint d'arbitraire dans l'établissement des faits et de violation des art. 8 et 14 CEDH, de l'art. 133 al. 3 CC, ainsi que des art. 29 al. 2 Cst., 530 ss CO et subsidiairement de l'art. 165 CC. Des observations n'ont pas été requises.