Faits :
A.
Par jugement du 16 mars 2016, le Tribunal régional Jura bernois-Seeland, Agence du Jura bernois (ci-après : le Tribunal), a prononcé le divorce de A.A._ et B.A._ et ratifié la convention signée par ceux-ci les 30 novembre et 6 décembre 2015, laquelle prévoyait notamment le versement d'une contribution d'entretien en faveur de l'ex-épouse de 1'100 fr. par mois jusqu'à l'âge légal ordinaire de la retraite AVS de l'ex-époux. Il était également précisé que cette contribution était due quoiqu'il advienne et n'était pas révisable, de sorte que l'ex-époux renonçait à demander une modification de ladite contribution d'entretien, quelles que soient les circonstances nouvelles qui pouvaient apparaître dans sa situation ou celle de son ex-épouse. L'art. 130 CC était réservé ainsi que le cas où le revenu net total de l'ex-époux tomberait en dessous d'un montant de 6'000 fr. par mois, suite à une maladie ou un accident.
B.
B.a. Par demande en modification du jugement de divorce du 24 décembre 2018, l'ex-époux a conclu à la suppression de la contribution d'entretien à compter du 1er janvier 2019 (art. 105 al. 2 LTF).
B.b. Par jugement du 20 mars 2020, le Tribunal a rejeté la demande.
B.c. Par arrêt du 30 octobre 2020, la 2ème Chambre civile de la Cour suprême du canton de Berne a rejeté l'appel formé par l'ex-époux.
C.
Par acte du 9 décembre 2020, l'ex-époux exerce un recours en matière civile au Tribunal fédéral. Il conclut à la réforme de l'arrêt attaqué en ce sens que la contribution d'entretien en faveur de l'ex-épouse est supprimée dès le 1er mars 2019, subsidiairement, que le versement de cette contribution est suspendu à compter de cette même date. Il requiert également que ses frais judiciaires et de défense pour les procédures cantonale de deuxième instance et fédérale soient intégralement mis à la charge de l'intimée, subsidiairement, que la cause soit renvoyée à l'autorité cantonale pour qu'elle statue à nouveau sur le sort des frais de la procédure d'appel et que les frais de la procédure fédérale soient mis à la charge du canton de Berne.
Plus subsidiairement, l'ex-époux conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants.
Des observations n'ont pas été demandées. La production du dossier cantonal a en revanche été requise.

Considérant en droit :
1.
Le recours a été déposé en temps utile (art. 100 al. 1 LTF) et dans la forme légale (art. 42 al. 1 LTF), contre une décision finale (art. 90 LTF) rendue sur recours par une autorité cantonale de dernière instance (art. 75 al. 1 et 2 LTF), dans une affaire civile (art. 72 al. 1 LTF) de nature pécuniaire (arrêt 5A_451/2020 du 31 mars 2021 consid. 1). La valeur litigieuse requise est atteinte (art. 51 al. 1 let. a et al. 4, 74 al. 1 let. b LTF). Le recourant a pris part à la procédure devant l'autorité précédente et a un intérêt digne de protection à l'annulation ou la modification de la décision attaquée (art. 76 al. 1 let. a et b LTF). Le recours est recevable au regard de ces dispositions.
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 s. LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Cela étant, compte tenu de l'obligation de motiver qui incombe au recourant en vertu de l'art. 42 al. 1 et 2 LTF, il n'examine pas toutes les questions juridiques qui peuvent se poser, mais seulement celles qui sont soulevées devant lui (<ref-ruling>consid. 2.4 et les références). L'art. 42 al. 2 LTF exige par ailleurs que le recourant discute les motifs de la décision entreprise et indique précisément en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling>consid. 1.7.1; <ref-ruling>consid. 2.4 et la référence). En outre, le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si de tels griefs ont été invoqués et motivés par le recourant (" principe d'allégation "; art. 106 al. 2 LTF), c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (<ref-ruling>consid. 2.1; <ref-ruling>consid. 5.1; <ref-ruling>consid. 2.1).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.2; <ref-ruling>consid. 6.7; <ref-ruling> consid. 2.2 et la référence), ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). En matière d'appréciation des preuves et d'établissement des faits, il n'y a arbitraire que lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 4.2; <ref-ruling> consid. 1.1 et la référence). Le recourant ne peut pas se borner à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit indiquer de façon précise en quoi ces constatations sont arbitraires (<ref-ruling>consid. 1.4.3). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (art. 106 al. 2 LTF; <ref-ruling> consid. 4.1.2; <ref-ruling>consid. 1.1; <ref-ruling>consid. 1.3.1).
A l' " Article premier " de son écriture, le recourant indique ne pas contester l'état de fait tel qu'il ressort de l'arrêt entrepris, " à l'exception des faits qui ont clairement été établis de manière inexacte, ce [qu'il] considère comme des faits qui ont été établis de manière arbitraire ". Sous réserve de la critique d'établissement arbitraire des faits et d'appréciation arbitraire des preuves examinée ci-après (cf. infr a consid. 3.4), cette remarque n'a pas de portée propre.
2.3. L'entier de la critique doit se trouver dans le recours, le renvoi à d'autres écritures ou à des pièces n'étant pas admissible (<ref-ruling> consid. 3.2 et les références; arrêt 5A_793/2020 du 24 février 2021 consid. 4.2). Le renvoi que le recourant effectue, " pour davantage de précisions ", à sa demande en modification du jugement de divorce et à son appel ne sera donc pas pris en considération.
2.4. Des mesures probatoires devant le Tribunal fédéral (art. 55 LTF) ne sont qu'exceptionnellement ordonnées dans une procédure de recours, dès lors qu'il conduit en principe son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF; <ref-ruling> consid. 2; arrêts 5A_902/2020 du 25 janvier 2021 consid. 2.3; 5A_238/2020 du 28 juillet 2020 consid. 2.4).
A titre de moyens de preuve, le recourant requiert l'édition du " dossier officiel de la cause ". Celui-ci a été transmis au Tribunal fédéral conformément aux exigences prévues à l'art. 102 al. 2 LTF. La réserve " d'autres moyens ", de nature indéterminée, que le recourant formule dans son écriture, n'a, quant à elle, aucune portée.
3.
Le recourant s'en prend au refus de la juridiction précédente de supprimer la pension en faveur de l'ex-épouse.
3.1. La cour cantonale a tout d'abord relevé que la convention de divorce ratifiée le 16 mars 2016 par le Tribunal prévoyait les conditions permettant une modification de la contribution d'entretien. Ces conditions étaient claires et n'étaient pas sujettes à interprétation. Il fallait qu'une maladie ou un accident ait engendré une diminution du revenu du recourant en dessous d'un montant de 6'000 fr. mensuel net et fasse obstacle à la réalisation de ce revenu. Il était établi que le recourant avait subi deux accidents, soit un accident de voiture le 15 mars 2018 et une chute à vélo le 4 septembre 2018. L'intimée ne contestait par ailleurs pas qu'il souffrait de problèmes psychologiques. Le recourant possédait la société C._Sàrl, dont il avait vendu les parts le 18 décembre 2018 à D._Sàrl, en conservant toutefois la partie relative à l'exploitation d'une entreprise de sanitaires et chauffage sous la raison sociale E._SA.
Les juges cantonaux ont examiné s'il existait un lien de causalité entre la baisse de revenu invoquée par le recourant et les accidents et la maladie psychique subis par celui-ci. Ils ont relevé que le second accident avait provoqué une incapacité de travail jusqu'au 28 février 2019, mais qu'à partir du 1er mars 2019, aucune incapacité de travail, totale ou partielle, durable ou passagère, n'était attestée. En particulier, le recourant n'avait produit aucun certificat médical attestant d'une incapacité de travail complète ou partielle, l'empêchant d'exercer une activité lucrative lui permettant d'obtenir un revenu mensuel net égal ou supérieur à 6'000 fr. De même, aucune explication n'était donnée quant à l'activité que le recourant serait encore en mesure d'exercer, et aucune prestation de la part des assurances sociales ou de la prévoyance professionnelle n'avait été revendiquée depuis le 1er mars 2019. La cour cantonale a également retenu qu'il ressortait du dossier que l'éventualité de la vente de l'entreprise du recourant avait déjà été évoquée avant le divorce, de sorte qu'il était établi que le recourant avait cherché à vendre son entreprise avant les deux accidents survenus en 2018 et que la vente de son entreprise et la diminution de revenu n'étaient pas la conséquence directe de ceux-ci. Les juges cantonaux ont dès lors confirmé l'appréciation du Tribunal selon lequel les accidents avaient tout au plus accéléré une décision qui germait depuis quelque temps déjà dans l'esprit du recourant, de sorte qu'il n'était pas établi que l'éventuelle diminution de ses revenus était en lien de causalité avec les accidents subis et sa maladie psychique. Il n'y avait dès lors pas lieu d'examiner si le revenu qu'il réalisait était inférieur à 6'000 fr., étant précisé que le recourant aurait dû prouver non seulement que son revenu était inférieur à ce montant, mais aussi qu'il ne serait plus en mesure de réaliser un tel revenu, ce qu'il n'avait pas fait.
3.2. En substance, le recourant fait grief à la juridiction précédente d'avoir considéré que les conditions pour une modification de la contribution d'entretien n'étaient pas réalisées. Il estime avoir démontré qu'à partir du 1er mars 2019, ses revenus mensuels étaient inférieurs à 6'000 fr., ce qui ressort de sa déclaration fiscale 2019. Dans la mesure où il a vendu son entreprise à la suite d'une maladie psychique et de deux accidents successifs, il ne sera plus jamais en mesure de percevoir le salaire mensuel qu'il réalisait auparavant de 11'500 fr. brut, ni même un salaire mensuel de 6'000 fr. Selon lui, les juges cantonaux ont fait preuve d'arbitraire en considérant qu'il n'y avait pas lieu d'examiner si son revenu mensuel était inférieur à 6'000 fr. Cet élément aurait dû les amener à constater que les conditions d'une modification de la contribution d'entretien étaient remplies. Il fait grief à la cour cantonale d'avoir manifestement mal interprété le sens de la convention en considérant qu'il aurait dû attester d'une incapacité de travail afin d'établir le lien de causalité entre la diminution de revenus et l'accident ou la maladie, ce qui ne ressortirait aucunement du texte de ladite convention. Celle-ci n'exigerait pas que la diminution de revenu soit exclusivement dues aux accidents ou à la maladie, " un simple lien de causalité [étant] demandé ". Partant, la cour cantonale aurait dû supprimer, subsidiairement suspendre, la pension litigieuse à compter du 1er mars 2019.
3.3. Selon l'art. 127 CC, par convention, les époux peuvent exclure complètement ou partiellement la modification ultérieure d'une rente fixée d'un commun accord.
Une convention sur les effets accessoires du divorce est une manifestation de volonté qui doit être interprétée selon les mêmes principes que les autres contrats (arrêts 5A_80/2020 du 19 août 2020 consid. 3.3.3; 5A_351/2019 du 3 décembre 2019 consid. 3.3.1; 5A_625/2016 du 22 mai 2017 consid. 5.4.1; 5A_953/2014 du 13 août 2015 consid. 2.1). Le juge doit recourir en premier lieu à l'interprétation subjective, c'est-à-dire rechercher la réelle et commune intention des parties, le cas échéant empiriquement, sur la base d'indices, sans s'arrêter aux expressions ou dénominations inexactes dont elles ont pu se servir (art. 18 al. 1 CO; <ref-ruling> consid. 5.2.1; <ref-ruling> consid. 4.1; <ref-ruling>consid. 3.2). Si elle aboutit, cette démarche conduit à une constatation de fait (art. 105 al. 1 LTF; <ref-ruling> consid. 5.2.1; <ref-ruling>consid. 4.1).
Ce n'est que si le juge ne parvient pas à déterminer cette volonté réelle des parties qu'il doit recourir à l'interprétation objective, à savoir rechercher la volonté objective des parties, en déterminant le sens que, d'après les règles de la bonne foi, chacune d'elles pouvait et devait raisonnablement prêter aux déclarations de volonté de l'autre (application du principe de la confiance); il s'agit d'une question de droit (<ref-ruling> consid. 3.3; <ref-ruling> consid. 5.2.1).
Lorsque la teneur d'une clause contractuelle paraît limpide à première vue, il peut résulter d'autres conditions du contrat, du but poursuivi ou d'autres circonstances que le texte de cette clause ne restitue pas exactement le sens de l'accord conclu. Il n'y a cependant pas lieu de s'écarter du sens littéral du texte adopté par les cocontractants lorsqu'il n'y a aucune raison sérieuse de penser que celui-ci ne corresponde pas à leur volonté (<ref-ruling> consid. 5.2 et les références; arrêts 4A_107/2020 du 23 juin 2020 consid. 7.1; 4A_463/2014 du 23 janvier 2015 consid. 2 non publié in <ref-ruling>).
3.4. Dans la mesure où il se réfère à la jurisprudence relative à la diminution ou la suppression d'une pension ensuite de la baisse de revenu du débirentier, le recourant perd de vue que, dans le cas d'espèce, les parties ont limité les possibilités de modification de la rente convenue, conformément à l'art. 127 CC. La jurisprudence qu'il cite ne lui est dès lors d'aucun secours.
En l'occurrence, les juges cantonaux ont estimé que les conditions auxquelles la contribution en faveur de l'intimée pouvait être modifiée étaient claires et n'étaient pas sujettes à interprétation. En d'autres termes, ils sont parvenus à la conclusion que le texte de cette clause restituait le sens de l'accord conclu entre les parties. Il appartenait dès lors au recourant de démontrer, de manière conforme aux exigences de motivation de l'art. 106 al. 2 LTF, que la cour cantonale avait versé dans l'arbitraire en constatant la volonté des parties (cf. supra consid. 2.2 et 3.3). Or, l'ex-époux se contente d'opposer sa propre interprétation de la convention de divorce, selon laquelle il n'est pas exigé que la baisse de ses revenus soit due exclusivement aux accidents ou à la maladie, à celle de la cour cantonale, qui a retenu qu'il fallait que l'un de ces évènements ait engendré une baisse du revenu mensuel net en dessous de 6'000 fr. et fasse obstacle à la réalisation d'un tel revenu. Faute de remplir les exigences de motivation de l'art. 106 al. 2 LTF (cf. supra consid. 2.2), la critique est irrecevable.
Demeure ainsi intact le constat de la cour cantonale selon lequel il devait, conformément à la convention de divorce, exister un lien de causalité entre les accidents et la maladie subis par le recourant et la baisse de son revenu. A cet égard, la juridiction précédente pouvait, sans verser dans l'arbitraire, se fonder sur les certificats médicaux produits par le recourant pour déterminer si les accidents ou la maladie psychique de celui-ci avaient porté atteinte à sa capacité de travail et de gain, partant, pour savoir si ces évènements avaient causé la baisse de ses revenus. Or, il ressort de l'arrêt querellé qu'aucune incapacité n'est établie, ce que le recourant ne critique pas de manière conforme aux exigences de motivation susmentionnées (cf. supra consid. 2.2). Celui-ci ne s'en prend pas non plus au constat selon lequel l'éventualité de la vente de son entreprise avait déjà été évoquée avant le divorce. Dans ces circonstances, le fait que la juridiction précédente ait nié l'existence d'un lien de causalité échappe à toute critique.
Au vu de ce qui précède, la cour cantonale pouvait, sans violer le droit fédéral, renoncer à examiner si le revenu réalisé par le recourant était inférieur à 6'000 fr. Quoi qu'il en soit, dans son écriture, celui-ci s'attache uniquement à démontrer, au moyen de sa déclaration fiscale, que son revenu effectif est inférieur au montant précité. Ce faisant, sauf à affirmer péremptoirement le contraire (cf. supra consid. 2.2), il ne discute pas le motif de l'arrêt querellé selon lequel il n'a pas prouvé ne plus être en mesure de réaliser un tel revenu.
La critique est infondée dans la mesure de sa recevabilité.
4.
Le recourant fait également grief à la cour cantonale de s'être " fourvoyée en n'examinant pas la taxation des honoraires de l'intimée en première instance ", celle-ci étant " manifestement exagérée ". Outre qu'il ne formule pas de conclusion chiffrée à cet égard (<ref-ruling> consid. 1.2), le recourant ne s'en prend pas valablement (art. 42 al. 2 LTF; cf. supra consid. 2.1) au motif de l'arrêt querellé selon lequel la critique a été émise tardivement en appel. Partant, le grief est irrecevable.
5.
En définitive, le recours doit être rejeté dans la mesure de sa recevabilité. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il n'est pas alloué de dépens à l'intimée, qui n'a pas été invitée à répondre (art. 68 al. 1 LTF). Compte tenu de l'issue de la procédure, il n'y a pas lieu de modifier la répartition des frais et dépens de la procédure cantonale (art. 67 et 68 al. 5 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la 2e Chambre civile de la Cour suprême du canton de Berne.
Lausanne, le 16 juillet 2021
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Feinberg