Faits:
A. A.a X._, né en 1962, et Y._, née en 1966, se sont mariés le 21 septembre 1996. Deux enfants sont issus de cette union, soit A._, née en 1997, et B._, né en 1999.
Les époux se sont séparés en mai 2005.
A.b Par jugement du 21 février 2008, le Tribunal de première instance de Genève a prononcé le divorce des époux, sur requête commune avec accord complet. Il a entériné la convention des parties du 12 janvier 2007 sur les effets accessoires du divorce et le sort des enfants, dont il ressort en substance ce qui suit au sujet de l'entretien de la famille:
il est donné acte à X._ de son engagement à verser à Y._, à titre de contribution de son entretien, par mois et d'avance, la somme de 4'000 fr. jusqu'au 31 mars 2017, contribution réduite à la somme mensuelle de 2'000 fr. à compter du 1er avril 2017 jusqu'au 31 mars 2024 inclus, sous réserve de la réduction de la dite contribution d'entretien selon les modalités plus précises déterminées à l'art. 4.1 de la convention.
L'art. 4.1 de la convention prévoyait notamment que la contribution d'entretien due à l'épouse serait réduite de la tranche des revenus réalisés le cas échéant par celle-ci, excédant la somme de 5'000 fr. bruts par mois. En outre, le droit à l'entretien cesserait avec effet immédiat en cas de remariage ou de concubinage qualifié.
Il est donné acte à X._ de son engagement à verser à Y._, à titre de contribution à l'entretien de chacun des enfants, par mois et d'avance, allocations familiales ou d'étude non comprises, la somme de 2'000 fr., ce jusqu'à leur majorité et au-delà, mais jusqu'à l'âge de 25 ans révolus au plus, en cas d'études sérieuses et suivies.
Il est donné acte à X._ de son engagement à s'acquitter des frais suivants, jusqu'à ce que chacun des enfants ait atteint sa majorité ou l'âge de 25 ans révolus, [...]: les primes d'assurance maladie des enfants, avec la franchise y relative; les frais exceptionnels (orthodontie, ophtalmologie ou autre) auxquels l'un ou l'autre des enfants serait exposé; les frais relatifs aux activités sportives, culturelles et extrascolaires de chacun des enfants, leurs frais de transport, de vacances et d'habillement lorsqu'ils se trouvent sous la garde de leur mère, cela à concurrence d'un plafond annuel de 30'000 fr.; les frais d'écolage de chacun des enfants.
Il est donné acte à X._ de ce qu'il concède à Y._ un droit d'habitation inconditionnel dans l'immeuble dont il est propriétaire à F._ à Genève et ce, jusqu'au 31 décembre 2024 inclus, étant précisé qu'au cas où Y._ viendrait à quitter ce domicile avant le 31 décembre 2024, les frais de relogement pour un logement de nature similaire à la date valeur du 1e janvier 2007 seront pris en charge par X._, [...], à hauteur de 6'500 fr.
Il est donné acte à X._ de son engagement inconditionnel de verser, le 30 juin 2007 au plus tard, un montant en capital de 300'000 fr. en faveur de chacun des enfants, [...].
Dans son préambule, la convention indiquait que X._ était consultant auprès de la société C._ et percevait des revenus annuels bruts de l'ordre de 540'000 fr.; Y._ était administratrice de la société D._, qui ne lui versait aucun salaire.
Durant la procédure, X._ a déclaré, en juin 2007, révoquer partiellement son accord à la convention de divorce. Il entendait notamment réduire la contribution d'entretien due à son épouse à 2'000 fr. par mois et renoncer à prendre en charge les frais de relogement de celle-ci en cas de déménagement. A l'appui de son propos, il faisait valoir, d'une part, que la convention était viciée car négociée par leur avocat commun qui entretenait une relation amoureuse avec Y._, et, d'autre part, que ses revenus avaient substantiellement et régulièrement diminué entre 2002 et 2006. Finalement, il a confirmé son accord en audience du 7 février 2008.
B. B.a Par acte déposé le 21 janvier 2010, X._ a demandé la modification du jugement de divorce dans le sens suivant:
la suppression dès octobre 2009 de la contribution d'entretien due à Y._;
la diminution de la contribution à l'entretien de chacun des enfants à 1'000 fr. par mois;
le paiement par moitié, par chacun des parents, des frais liés à l'assurance maladie des enfants et des frais exceptionnels;
la prise en charge par moitié, par chacun des parents, des frais relatifs aux activités sportives, culturelles et extrascolaires, ainsi que les frais de transport, de vacances et d'habillement des enfants quand ils sont sous la garde de leur mère, à concurrence d'un plafond annuel de 12'000 fr. pour X._;
le paiement par moitié, par chacun des parents, des frais d'écolage des enfants, à concurrence d'un plafond annuel de 15'000 fr. pour X._;
la suppression des frais de relogement de Y._ au cas où celle-ci déménagerait.
A l'appui de sa requête, X._ a fait valoir, en substance, deux motifs. Premièrement, sa situation financière s'était sérieusement péjorée: les contrats avec les principaux clients de sa société C._, dont il est administrateur unique, actionnaire et employé, n'avaient pas été renouvelés durant le deuxième semestre 2008, de sorte que son revenu avait diminué pour atteindre 111'729 fr. en 2008 et 145'813 fr. en 2009; secondement, Y._ vivait en concubinage.
Par jugement du 14 octobre 2010, communiqué aux parties le 18 octobre 2010, le tribunal a intégralement rejeté la demande de X._. En substance, il a considéré que le demandeur faisait valoir pour l'essentiel les mêmes arguments que ceux qu'il avait déjà invoqués lors de la procédure en divorce, de sorte que la demande de modification était en réalité un appel déguisé. Par ailleurs, les allégués du demandeur sur sa situation financière étaient erronés et lacunaires, celui-ci n'admettant un fait que lorsqu'il était questionné sur un élément précis. Il n'y avait donc pas lieu d'ouvrir des enquêtes et "d'aller à la pêche aux informations". Ayant dissimulé une partie de ses revenus et de sa fortune, X._ avait échoué à apporter la preuve d'une modification notable et durable de sa situation financière.
B.b Reprenant pour l'essentiel ses conclusions de première instance, X._ a interjeté un appel contre ce jugement auprès de la Cour de justice du canton de Genève, qui l'a rejeté par arrêt du 17 juin 2011.
C. Par acte posté le 24 août 2011, X._ interjette un recours en matière civile contre cet arrêt. Il conclut, principalement, à son annulation et au renvoi de la cause à l'instance cantonale pour nouvelle décision après avoir procédé aux mesures d'instruction complémentaires requises et, subsidiairement, à son annulation et à sa réforme dans le sens de ses conclusions prises en procédure cantonale. En substance, il se plaint d'arbitraire dans l'application du droit de procédure cantonal et dans l'établissement des faits (art. 9 Cst.), ainsi que de la violation des art. 6 CEDH, 29 al. 2 Cst., 8, 125 et 286 al. 2 CC.
Des observations n'ont pas été requises.

Considérant en droit:
1. Le recours est dirigé contre une décision finale (art. 90 LTF), prise en dernière instance et sur recours par le tribunal supérieur du canton de Genève (art. 75 al. 1 LTF), dans une affaire civile de nature pécuniaire (art. 72 al. 1 LTF), dont la valeur litigieuse est supérieure à 30'000 fr. (art. 51 al. 1 let. a et al. 4, 74 al. 1 let. b LTF). Il a de plus été interjeté en temps utile (art. 100 al. 1 LTF) et en la forme prévue par la loi (art. 42 LTF), par la partie qui a succombé dans ses conclusions prises devant l'autorité précédente (art. 76 al. 1 LTF). Il y a donc lieu, en principe, d'entrer en matière sur le recours.
2. 2.1 Le recours en matière civile peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties. Eu égard à l'exigence de motivation prévue à l'art. 42 al. 1 et 2 LTF, il n'examine cependant que les griefs invoqués, pour autant que les vices ne soient pas évidents. Il n'est pas tenu de traiter toutes les questions juridiques qui se posent, comme le ferait une autorité de première instance, lorsque celles-ci ne sont pas ou plus abordées devant lui. Par ailleurs, s'il entend dénoncer la violation de droits fondamentaux, le recourant doit, dans son mémoire, exposer en quoi consiste la violation alléguée, c'est-à-dire discuter les motifs de la décision entreprise et indiquer précisément quelle disposition constitutionnelle ou légale a été violée ("principe d'allégation"; art. 106 al. 2 LTF; <ref-ruling> consid. 3.2; <ref-ruling> consid. 1.4.2; <ref-ruling> consid. 1.4). Sous réserve d'hypothèses non réalisées dans le cas présent (art. 95 let. c et d LTF), la violation du droit cantonal ne constitue pas un motif de recours; il est cependant possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, parce qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (<ref-ruling> consid. 1; <ref-ruling> consid. 2.3).
2.2 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 in fine LTF). Le recourant qui entend se plaindre d'un établissement manifestement inexact - c'est-à-dire arbitraire (art. 9 Cst.; ATF <ref-ruling> consid. 1.2.2) - des faits doit satisfaire au principe d'allégation susmentionné, étant rappelé que l'appréciation des preuves n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (<ref-ruling> consid. 2.1). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
3. 3.1 Dans la première partie de son recours (p. 4-17/32), le recourant s'emploie à rendre compte partiellement des faits exposés dans la décision attaquée, tout en y apportant ici et là certains compléments et appréciations. Ce procédé ne satisfait pas aux exigences légales auxquelles un recourant doit répondre pour tenter de démontrer l'établissement arbitraire de l'état de fait sur lequel les magistrats cantonaux ont statué (cf. art. 9 Cst.). Ces compléments et appréciations sont donc irrecevables (cf. supra consid. 2.2).
3.2 Par ailleurs, le recourant produit une pièce comptable du 5 août 2011 comme moyen de preuve de l'état actuel de ses revenus. Nouvelle, cette pièce est irrecevable (cf. art. 99 al. 1 LTF; supra consid. 2.2 in fine).
4. 4.1 La modification ou suppression de la contribution d'entretien fixée dans un jugement de divorce est régie par l'art. 129 CC, pour le conjoint, et par l'art. 286 al. 2 CC, applicable par renvoi de l'art. 134 al. 2 CC, pour les enfants. Elle suppose que des faits nouveaux importants et durables soient survenus dans la situation du débirentier ou du crédirentier (ou dans celle du parent gardien pour la contribution d'entretien de l'enfant), qui commandent une réglementation différente. La procédure de modification n'a en effet pas pour but de corriger le premier jugement, mais de l'adapter aux circonstances nouvelles (arrêt 5A_99/2011 du 26 septembre 2011 consid. 4.1.1, destiné à la publication; <ref-ruling> consid. 2.7.4; <ref-ruling> consid. 3a; 285 consid. 4b).
4.2 Le fait revêt un caractère nouveau lorsqu'il n'a pas été pris en considération pour fixer la contribution d'entretien dans le jugement de divorce. Il n'est donc pas décisif qu'il ait été imprévisible à ce moment-là. On présume néanmoins que la contribution d'entretien a été fixée en tenant compte des modifications prévisibles, soit celles qui, bien que futures, sont déjà certaines ou fort probables (ATF 131 IIII 189 consid. 2.7.4; arrêt 5A_845/2010 du 12 avril 2011 consid. 4.1). Le moment déterminant pour apprécier si un fait nouveau s'est produit est la date du dépôt de la demande de modification (<ref-ruling> consid. 4b).
4.3 Pour ce qui est de la contribution d'entretien des enfants, la survenance d'un fait nouveau - même important et durable - n'entraîne pas automatiquement une modification de leur contribution d'entretien. Ce n'est que si la charge d'entretien devient en plus déséquilibrée entre les deux parents, au vu des circonstances prises en compte dans le jugement de divorce, en particulier si cette charge devient excessivement lourde pour le parent débirentier qui aurait une condition modeste, qu'une modification de la contribution peut entrer en considération. Le juge ne peut donc pas se limiter à constater que la situation d'un des parents s'est modifiée pour admettre la demande; il doit procéder à une pesée des intérêts respectifs de l'enfant et de chacun des parents pour juger s'il est nécessaire de modifier la contribution d'entretien dans le cas concret (arrêt 5A_99/2011 du 26 septembre 2011 consid. 4.1.1, destiné à la publication).
5. Le recourant reproche tout d'abord à la cour cantonale d'avoir "appliqué de manière arbitraire le droit cantonal" en refusant de prendre en considération certaines pièces produites devant elle.
5.1 La cour cantonale a refusé de prendre en considération les pièces que le recourant a produites lors de l'audience de plaidoirie du 4 mars 2011. Il s'agissait notamment du bilan de C._ au 31 décembre 2010, dont le recourant est l'administrateur unique et l'employé, et du projet des comptes au 31 décembre 2010 de E._, dont le recourant détient une participation. L'autorité cantonale a jugé ces preuves irrecevables au motif que, selon l'art. 394 de l'ancienne loi de procédure civile genevoise encore applicable à la cause (cf. art. 405 al. 1 CPC), les preuves relatives aux faits nouveaux improprement dits devaient être produites devant elle au plus tard avec le premier échange d'écritures en appel. Or, le recourant avait produit ces pièces après l'échange d'écritures, donc tardivement, et sans aucune écriture les visant. En outre, bien que ces pièces eussent été établies postérieurement à l'appel, elles se référaient à des faits déjà allégués en première instance. Au demeurant, l'autorité cantonale a noté que ces pièces n'étaient en tout état de cause pas propres à changer l'issue du litige: elles tendaient à révéler des éléments concernant la situation financière du recourant, dont ce dernier n'avait fait état ni devant le premier juge, ni devant elle, et qu'il lui aurait appartenu d'éclaircir.
5.2 Le recourant soutient que le bilan et le compte de pertes et profits de C._ au 31 décembre 2010, le certificat de salaire 2010 et le courrier de la Caisse de compensation du 18 février 2011 sont des pièces qui ont été établies postérieurement à son mémoire d'appel, de sorte que, selon lui, les faits qui en ressortent doivent être considérés comme nouveaux. Pour ce qui est des comptes de E._, il prétend qu'il n'avait pas à produire cette pièce avant que l'intimée n'allègue qu'il retirait des revenus de son activité dans cette société.
5.3 Dans sa motivation, le recourant ne cite même pas la disposition de droit cantonal qui aurait été appliquée de manière arbitraire. Par ailleurs, il ne s'en prend pas à la motivation de la cour, qui a considéré, en substance, que si les pièces précitées avaient bien été établies postérieurement au premier échange de mémoires en appel, elles se référaient à des faits déjà connus en première instance et sur lesquels le recourant aurait dû se montrer exhaustif, raison pour laquelle elles étaient irrecevables. Partant, l'argumentation du recourant ne répond pas aux exigences découlant du principe d'allégation, de sorte que le grief d'arbitraire dans l'application du droit cantonal doit être déclaré irrecevable (cf. supra consid. 2.1 in fine).
6. 6.1 Sur le fond, la cour cantonale a d'emblée rejeté les conclusions du recourant visant à supprimer son obligation de prendre en charge les frais de relogement de l'intimée à hauteur de 6'500 fr. au cas où celle-ci déménagerait. Elle a jugé que les parties avaient prévu dans leur convention de divorce que l'intimée disposait d'un droit d'habitation dans l'immeuble du recourant jusqu'en 2024. Or, l'intimée avait indiqué n'avoir aucune intention de déménager.
En revanche, la cour cantonale a examiné les trois faits nouveaux allégués suivants: la diminution des revenus du recourant, le concubinage qualifié de l'intimée et l'amélioration de la situation financière de celle-ci.
6.2 Le recourant ne s'en prend qu'à la motivation de l'autorité cantonale concernant la diminution de ses revenus (cf. infra consid. 7) et l'amélioration de ceux de l'intimée (cf. infra consid. 8).
7. 7.1 S'agissant de la diminution des revenus du recourant, la cour cantonale a relevé que celui-ci alléguait avoir perçu de C._ une rémunération annuelle nette de 111'729 fr. en 2008 (9'310 fr./mois), de 145'813 fr. en 2009 (12'151 fr./mois), puis une rémunération mensuelle nette de 14'109 fr. de janvier à mai 2010, déduction faite de ses primes d'assurance-maladie et de celles de ses enfants. Or, elle a constaté que ces montants ne correspondaient ni aux comptes de la société, ni aux revenus déclarés au fisc, sans que le recourant n'eût fourni d'explications justifiant ces différences. En outre, il n'était pas possible de dire si certaines charges ressortant des comptes concernaient la société ou son propriétaire. Par ailleurs, malgré les ordonnances du juge de première instance, le recourant n'avait pas établi de comptes intermédiaires de sa société au 30 avril 2010, alors qu'on pouvait l'attendre de lui en sa qualité d'administrateur unique, ni produit le contrat qui liait sa société à l'un des deux clients qui lui restaient au 10 juillet 2010. En outre, alors que l'essentiel de son argumentation se fondait sur la baisse de ses revenus en raison du non-renouvellement de contrats de durée déterminée avec les partenaires commerciaux de sa société, le recourant n'avait fourni aucune preuve permettant de démontrer cette affirmation, bien qu'il eût facilement pu demander à ses anciens clients de confirmer la cessation de toute relation commerciale. Enfin, en tout état de cause, la cour cantonale a jugé que, vu notamment l'activité indépendante du recourant et le peu de temps écoulé entre le jugement de divorce (21 février 2008) et la demande de modification (21 janvier 2010), elle n'était pas en mesure d'apprécier le caractère durable d'une éventuelle diminution des revenus. La cour cantonale a également considéré qu'il n'était pas établi que le salaire versé par C._ était la seule source de revenus du recourant. En effet, ce dernier alléguait qu'en raison de la diminution du salaire précité, il avait dû utiliser la substance de sa fortune pour s'acquitter des contributions d'entretien en 2008 et 2009 qui, toujours selon ses dires, s'étaient élevées, par mois, à 18'000 fr. en 2008 (216'000 fr./an) et à 16'000 fr. en 2009 (192'000 fr./an). Or, la cour a jugé que les extraits bancaires que le recourant avait produits ne permettaient pas de démontrer que sa fortune avait effectivement diminué depuis le jugement de divorce. Le recourant s'était notamment soustrait à l'ordonnance du juge de première instance l'invitant à produire des relevés de comptes bancaires au 1er janvier 2008, de sorte qu'il n'était pas possible de connaître les mouvements de sa fortune. En outre, alors que les options qu'il avait exercées entre 2004 et 2009 lui avaient rapporté une plus-value de 1'900'000 euros, dont 91'460 euros après le jugement de divorce, le 22 septembre 2009, le recourant n'avait pas démontré comment il avait utilisé cette plus-value.
En conclusion, la cour cantonale a considéré que les allégués du recourant s'étaient révélés imprécis, lacunaires et contradictoires. De surcroît, il avait à plusieurs reprises dissimulé certains éléments au tribunal ou changé de version sur d'autres, jusqu'à ce qu'il fût questionné sur des points précis allégués par l'intimée. Elle a alors constaté que le recourant n'avait collaboré à l'établissement des faits que de manière partielle et passive. Or, il appartenait à ce dernier, qui demandait de modifier le jugement de divorce, d'alléguer avec précision tous les éléments utiles à démontrer que sa situation financière avait changé. Vu le manque de transparence dont le recourant avait fait preuve, la cour cantonale a jugé qu'elle n'était pas en mesure d'établir clairement sa situation financière, ni en ce qui concernait ses revenus, ni en ce qui concernait sa fortune. Ainsi, elle a considéré que le recourant avait échoué à apporter la preuve qu'il n'était plus en mesure de verser les contributions d'entretien à sa famille. Elle a refusé pour les mêmes motifs d'ordonner l'ouverture d'enquêtes, que le recourant n'avait d'ailleurs pas sollicitées devant le premier juge; elle a considéré qu'il n'appartenait pas au juge d'investiguer les faits de la cause lorsque le recourant ne collaborait que partiellement et de manière passive à leur établissement.
7.2 Le recourant reproche tout d'abord à la cour cantonale d'avoir considéré que la baisse de ses revenus avait déjà été prise en considération lors du jugement de divorce et de l'avoir privé du droit de prouver les faits dont la preuve lui incombait. Il invoque à cet égard la violation des art. 8, 125 [recte: 129] et 286 al. 2 CC, ainsi que de la maxime inquisitoire.
Une telle argumentation procède manifestement d'une mauvaise compréhension de l'arrêt attaqué. En effet, l'autorité cantonale s'est seulement demandé si la baisse des revenus invoquée avait déjà été prise en considération dans le jugement de divorce, ce qui en aurait exclu le caractère nouveau. Elle s'est posée cette question car, lors de la procédure de divorce, le recourant avait déjà allégué son inquiétude au sujet du non-renouvellement des contrats de sa société avec ses principaux clients. Néanmoins, elle a elle-même qualifié une telle solution d'"insatisfaisante" et a considéré que, s'il était avéré, ce fait serait nouveau et pourrait entraîner la modification des contributions d'entretien, au vu de l'ampleur de la diminution alléguée. Pour cette raison, elle a donc examiné si le recourant avait prouvé que ses revenus avaient effectivement diminué. Sans objet, le grief doit être déclaré irrecevable (cf. art. 42 al. 2 LTF; supra consid. 2.1).
7.3 Le recourant se plaint ensuite d'arbitraire dans l'appréciation des preuves ainsi que de la violation de la maxime inquisitoire, de son droit d'être entendu (art. 29 al. 2 Cst.) et, semble-t-il, de l'art. 8 CC, norme qu'il cite de manière toute générale dans son mémoire.
En substance, il soutient que, si la cour cantonale tenait pour insuffisantes les preuves qu'il avait apportées pour démontrer l'état de ses revenus ou si elle avait des doutes à ce sujet, elle aurait dû entreprendre des investigations supplémentaires et l'interpeller afin qu'il complète ses moyens, notamment en lui permettant de produire une expertise comptable. Il prétend aussi que le raisonnement de la cour conduit à exiger de lui d'apporter "l'impossible preuve d'un fait négatif, à savoir qu'il n'aurait pas d'autres revenus que ceux allégués [...]". Il présente la même argumentation en lien avec l'état de sa fortune ajoutant toutefois qu'il a, "le 30 juillet 2010, déposé un bordereau de pièces particulièrement important avec le relevé de ses comptes bancaires à différentes dates déterminantes, de sorte que si ces documents avaient été insuffisants, il aurait appartenu au tribunal, puis le cas échéant à la cour de réclamer des pièces complémentaires".
7.4 Il y a lieu d'examiner tout d'abord le grief d'arbitraire dans l'appréciation des preuves (art. 9 Cst.).
7.4.1 En vertu de l'art. 170 al. 1 CC, chaque époux peut demander à son conjoint qu'il le renseigne sur ses revenus, ses biens et ses dettes. Cette disposition, bien que figurant parmi les dispositions sur les effets généraux du mariage (art. 159 à 179 CC), s'applique non seulement dans les procédures de divorce (<ref-ruling> consid. 3a; arrêt 5C.271/2005 du 23 mars 2006 consid. 3.2), mais aussi de modification du jugement de divorce (cf. dans ce sens, arrêt 5A_81/2011 du 23 septembre 2011 consid. 6.1.3).
Le juge peut tenir compte dans l'appréciation des preuves du refus de collaborer d'un conjoint. Ainsi, il peut en particulier retenir que les allégations de ce dernier sont fausses, totalement ou partiellement, ou même considérer comme exactes les indications de l'autre époux (<ref-ruling> consid. 3a; arrêt 5A_251/2008 du 6 novembre 2008 consid. 4.5; 5C.123/2006 du 29 mars 2007 consid. 4.1, publié in FamPra.ch 2007 669; 5C.219/2005 du 1er septembre 2006 consid. 2.2, publié in FamPra.ch 2007 166).
7.4.2 En l'espèce, la cour cantonale a conclu son examen en considérant qu'elle n'était pas en mesure d'établir la situation financière globale du recourant et donc que ce dernier avait échoué à apporter la preuve qu'il n'était plus en mesure de faire face à ses engagements. Ce faisant, elle a constaté en fait l'échec de la preuve de la baisse de ses revenus et de sa fortune. La conséquence juridique en était que l'action du débiteur, qui supportait le fardeau de la preuve de la modification de sa situation financière, devait être rejetée. Or, par son argumentation, le recourant ne démontre pas que la cour aurait retenu de manière arbitraire que, compte tenu des preuves dont elle disposait, sa situation financière ne pouvait pas être établie. S'agissant de ses revenus, il se borne à affirmer que l'appréciation de la cour, qu'il se contente de retranscrire, est arbitraire et à prétendre qu'il appartenait à cette dernière de l'interpeller pour compléter ses offres de preuves. S'agissant de sa fortune, s'il invoque certes avoir produit certaines pièces pour établir celle-ci, il ne prétend pas avoir donné suite à toutes les ordonnances de preuve rendues à cet égard, ni même que les pièces effectivement produites auraient suffi à permettre à la cour d'établir que sa fortune avait, comme il l'alléguait, diminué entre le jugement de divorce et la requête en modification de ce dernier.
Partant, les critiques du recourant étant appellatoires, le grief d'arbitraire doit être déclaré irrecevable (cf. supra consid. 2.1).
7.5 S'agissant ensuite des griefs de la violation de la maxime inquisitoire et du droit d'être entendu (art. 29 al. 2 Cst.), compte tenu de son manque de collaboration, le recourant ne saurait reprocher à l'autorité cantonale de pas l'avoir interpellé ou de ne pas lui avoir donné la possibilité de fournir des preuves complémentaires.
La maxime inquisitoire ne dispense pas les parties de collaborer de manière active à la procédure en renseignant le juge sur les faits de la cause et en lui indiquant en temps utile leurs moyens de preuve (<ref-ruling> consid. 3.2.1). Lorsque, contrairement à ce qu'on serait en droit d'attendre d'elle, une partie refuse de collaborer à l'administration des preuves, celle-ci peut être close. Dès lors, même lorsque cette maxime s'applique, le juge peut apprécier les preuves en défaveur de la partie qui viole son devoir de renseigner (art. 170 CC; arrêt 5A_771/2010 du 24 juin 2011 consid. 2.2). Il n'a plus à intervenir en signalant à la partie récalcitrante qu'elle doit coopérer à la constatation des faits ou à l'interpeller pour s'assurer que ses allégués et offres de preuves sont complets.
Quant au droit d'être entendu (art. 29 al. 2 Cst.), il garantit notamment à chaque partie le droit de s'expliquer sur toute allégation de fait, toute offre de preuve et tout argumentation de droit de l'adversaire avant qu'une décision ne soit rendue à son détriment, et celui de fournir des moyens de preuves quant aux faits de nature à influer sur le sort de la décision. Contrairement à ce que soutient le recourant, il n'impose pas au juge d'interpeller une partie afin que celle-ci complète ses offres de preuves.
Ainsi, ces deux griefs doivent être rejetés.
7.6 Il reste à examiner le grief de la violation de l'art. 8 CC.
7.6.1 L'art. 8 CC règle la question du fardeau de la preuve et, partant, les conséquences de l'absence de preuve (<ref-ruling> consid. 2.6; <ref-ruling> consid. 2a). Lorsqu'il est reproché à un conjoint d'avoir violé son devoir de collaborer (art. 170 CC), cette disposition n'entre pas en ligne de compte. C'est en effet dans le cadre de l'appréciation des preuves que le juge se prononcera sur le résultat de la collaboration d'un époux. Le recourant qui entend s'en prendre à cette appréciation doit invoquer l'art. 9 Cst. et en démontrer le caractère arbitraire (arrêt 5A_783/2010 du 8 avril 2011 consid. 6.1; cf. aussi <ref-ruling> consid. 3).
7.6.2 Au vu de ce qui précède, le grief de la violation de l'art. 8 CC est infondé.
8. 8.1 S'agissant de la situation financière de l'intimée, la cour cantonale a jugé que, même si celle-ci avait obtenu une rémunération de sa société avant sa mise en liquidation, ce fait ne justifierait pas de modifier le jugement de divorce mais entraînerait uniquement la réduction de la contribution d'entretien mise à la charge du recourant, selon les modalités de la convention de divorce prévues au chiffre 4.1 (cf. supra Faits A.b). Cette question ne concernait donc que l'exécution du jugement, et non la modification de ce dernier.
8.2 Le recourant reproche à la cour cantonale d'avoir refusé de donner suite à ses réquisitions de preuves sur les revenus et la fortune de l'intimée, sous prétexte qu'il n'avait pas sollicité celles-ci en première instance et que cette société avait été liquidée. Selon lui, il ressort pourtant du dossier qu'il avait expressément conclu à des enquêtes dans ce sens. Se plaignant de la violation de son "droit à la preuve" et d'un "état de fait incomplet, ne permettant pas au Tribunal fédéral d'examiner le respect du droit fédéral", le recourant semble invoquer, à cet égard, la violation des art. 8, 129 et 286 al. 2 CC.
8.2 Le recourant reproche à la cour cantonale d'avoir refusé de donner suite à ses réquisitions de preuves sur les revenus et la fortune de l'intimée, sous prétexte qu'il n'avait pas sollicité celles-ci en première instance et que cette société avait été liquidée. Selon lui, il ressort pourtant du dossier qu'il avait expressément conclu à des enquêtes dans ce sens. Se plaignant de la violation de son "droit à la preuve" et d'un "état de fait incomplet, ne permettant pas au Tribunal fédéral d'examiner le respect du droit fédéral", le recourant semble invoquer, à cet égard, la violation des art. 8, 129 et 286 al. 2 CC.
8.3 8.3.1 Le droit à la preuve, garanti à l'art. 8 CC, n'existe que s'il porte sur un fait pertinent, qui n'est pas déjà prouvé, par une mesure probatoire adéquate (<ref-ruling> consid. 5.2.2; 295 consid. 7.1; <ref-ruling> consid. 2.6).
8.3.2 En l'espèce, s'agissant de la contribution d'entretien due à l'épouse, les parties ont déjà prévu dans leur convention de divorce que cette contribution serait réduite de la tranche des revenus excédant le montant mensuel de 5'000 fr. bruts. Les parties ont ainsi anticipé cette éventuelle modification des circonstances en insérant les conséquences de celle-ci dans leur convention, partie intégrante du jugement de divorce. Dès lors, comme l'a retenu la cour cantonale, il n'y a précisément pas lieu de modifier ce jugement au cas où cette circonstance se serait effectivement réalisée.
S'agissant de la contribution d'entretien due aux enfants, le recourant n'ayant pas démontré l'arbitraire dans l'échec de l'établissement de sa situation financière (cf. supra consid. 7), il ne serait pas possible de procéder à la pesée des intérêts qui doit avoir lieu dans ce domaine (cf. supra consid. 4.3), même si la situation financière de l'intimée s'était effectivement améliorée.
Partant, pour autant que recevable, le recourant ne s'en prenant pas à la motivation de la cour cantonale pour ce qui est de la contribution d'entretien due au conjoint (cf. art. 42 al. 2 LTF; supra consid. 2.1), le grief doit être rejeté.
9. En conclusion, le recours est rejeté, dans la mesure où il est recevable. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer de dépens à l'intimée, qui n'a pas été invitée à se déterminer (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans le mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre civile.
Lausanne, le 21 février 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Achtari