Faits :
A.
A.a. H.B._ (1935) est le fils de I.B._ et de J.B._. Son père a eu deux enfants d'un second lit, D.B._ et K.B._.
Célibataire, H.B._ n'a pas eu d'enfant.
A.b. Par décision du 26 avril 2005, la Chambre pupillaire de Sion (ci-après: la Chambre pupillaire) a institué une mesure de curatelle volontaire au sens de l'art. 394 aCC en faveur de H.B._ et lui a désigné A.A._, cousin par alliance, en qualité de curateur.
A.c. Le 8 octobre 2008, le notaire L._ a instrumenté l'acte constitutif de la Fondation J._. Selon l'art. 4 de l'acte, la fondation devait recevoir, comme " capital de dotation ", 400'000 fr. en espèces de la part de H.B._. L'acte était " conclu sous condition suspensive, soit l'accord de la Chambre pupillaire et de la Chambre des Tutelles concernant M. H.B._".
A.d. Par décision du 11 novembre 2008, la Chambre pupillaire a donné son consentement à l'acte constitutif précité.
A.e. Par testament public du 17 mars 2009 instrumenté par le notaire M.E._, H.B._ a pris les dispositions pour cause de mort suivantes:
" 1. Je révoque et annule toutes dispositions testamentaires que j'aurais pu faire antérieurement aux présentes.
2. Je déclare attribuer les sommes suivantes à mon décès:
- Fr. 30'000.- (trente mille francs) à Madame N._, fille de O._, (...)
- Fr. 30'000.- (trente mille francs) à Monsieur Q._, fils de R._, (...)
- Fr. 50'000 fr. (cinquante mille francs) à mon demi-frère D.B._, à AAA._,
- Fr. 50'000 fr. (cinquante mille francs) à mon demi-frère K.B._, à AAA._,
- Fr. 50'000 fr. (cinquante mille francs) à Madame E.B._, fille de K.B._, à BBB._,
- Fr. 50'000 fr. (cinquante mille francs) à Monsieur G.B._, de K.B._, à CCC._,
- Fr. 100'000 fr. (cent mille fr a ncs) à Monsieur F.B._, de K.B._, à DDD._.
3. Le solde de mes liquidités après paiement des frais funéraires et de liquidation y compris impôts sur les successions et après la vente des biens immobiliers qui resteront à mon chapitre sera attribué de la manière suivante:
- 1/5 à la Fondation J._ à AAA._,
- 1/5 à la famille A.A._ et B.A._ à EEE._,
- 1/5 à l' Association S._,
- 1/5 à la Fondation T._ à FFF._,
- 1/10 à la Fondation U._,
- 1/10 à la Fondation C._ à GGG._.
4. Je désigne comme e x é cuteur testamentaire l'Etude E._, avocats et notaires à BBB._, soit M.E._ et/ou V.E._. "
A.f. Par décision du 31 mars 2009, la Chambre de tutelle a refusé d'approuver la constitution de la Fondation J._.
A.g. H.B._ est décédé le 27 mars 2013.
Le certificat d'héritiers établi le 23 mai 2013 mentionne comme héritiers les héritiers institués figurant à l'art. 3 du testament. Par courriel du 5 mars 2014, le Juge de la commune de Sion a indiqué au conseil de D.B._ et K.B._ que ceux-ci n'étant pas héritiers réservataires, ils n'avaient pas, en leur qualité d'héritiers légaux, à figurer sur le certificat.
B.
B.a. Par acte du 31 octobre 2014, D.B._ et K.B._ ont ouvert action contre les héritiers institués et le notaire M.E._. Ils ont conclu à la constatation de la nullité absolue de la clause testamentaire instituant la Fondation J._ héritière pour une quote-part de 1/5, subsidiairement à ce que la nullité de ladite clause soit prononcée, à ce qu'il soit constaté, en tout état de cause, qu'ils étaient tous deux héritiers de la succession litigieuse, leurs parts héréditaires respectives étant de 1/10, et à ce qu'ordre soit donné à l'exécuteur testamentaire ainsi qu'à A.A._ de leur fournir les renseignements leur permettant d'établir leurs droits successoraux.
B.b. Le 17 août 2015, le conseil des demandeurs a informé l'autorité judiciaire du décès de K.B._. Le 5 octobre 2015, il a produit un certificat d'héritiers et une procuration des héritiers du défunt, à savoir F.B._, E.B._ et G.B._.
B.c. Par courrier du 10 mars 2016, les demandeurs ont retiré leur action en tant qu'elle était dirigée contre M.E._. Par décision du 13 mai 2016, le Juge de district de Sion (ci-après: le Juge de district) a pris acte de ce " désistement d'action ".
B.d. Par jugement du 2 juin 2017, le Juge de district a rejeté la demande du 31 octobre 2014 et constaté que la vocation héréditaire de la Fondation J._ était caduque, de sorte que la part héréditaire de A.A._ s'élevait à 1/8, celle de B.A._ à 1/8, celle de l'Association S._ à 1/4, celle de la Fondation T._ à 1/4, celle de la Fondation U._ à 1/8 et celle de la Fondation C._ à 1/8 de la succession.
B.e. Statuant sur appel des demandeurs, la Cour civile II du Tribunal cantonal du canton du Valais a, par jugement du 10 février 2020, admis la demande du 31 octobre 2014 et dit que la part de 1/5 de la succession attribuée à la Fondation J._ revenait à raison de moitié à D.B._ et à raison de moitié aux membres de la communauté héréditaire de K.B._.
C.
Par acte posté le 15 mars 2020, A.A._, B.A._ et la Fondation C._ forment un recours en matière civile au Tribunal fédéral. Ils concluent à l'annulation du jugement du 10 février 2020 et à la confirmation du jugement de première instance, en ce sens que la part successorale dévolue à la Fondation J._ est attribuée aux autres héritiers institués, de sorte que la part héréditaire de A.A._ s'élève à 1/8, celle de B.A._ à 1/8, celle de l'Association S._ à 1/4, celle de la Fondation T._ à 1/4, celle de la Fondation U._ à 1/8 et celle de la Fondation C._ à 1/8 de la succession. Subsidiairement, les recourants concluent à l'annulation de l'arrêt querellé et au renvoi de la cause à l'autorité précédente pour nouvelle décision au sens des considérants.
Des déterminations sur le fond n'ont pas été demandées. La production du dossier cantonal a en revanche été requise.
D.
Par ordonnance présidentielle du 7 avril 2020, la requête d'effet suspensif assortissant le recours a été admise.

Considérant en droit :
1.
1.1. Le recours a été déposé en temps utile (<ref-law>) et dans la forme légale (<ref-law>), contre une décision finale (<ref-law>) rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (<ref-law>), dans une affaire civile (<ref-law>) de nature pécuniaire, dont la valeur litigieuse atteint le seuil de 30'000 fr. (art. 51 al. 1 let. a et 74 al. 1 let. b LTF).
1.2. La recevabilité du recours en matière civile est également soumise à l'exigence que la partie qui recourt dispose de la qualité pour former un tel recours (<ref-law>), ce qui suppose qu'elle ait pris part à la procédure devant l'autorité précédente ou ait été privée de la possibilité de le faire (let. a) et ait un intérêt digne de protection à son annulation ou sa modification (let. b). L'intérêt à recourir doit être actuel et personnel en ce sens qu'il n'est, sauf exceptions, pas admis d'agir en justice pour faire valoir non pas son propre intérêt mais l'intérêt de tiers (arrêts 5A_336/2020 du 12 juillet 2021 consid. 1; 5A_281/2020 du 27 avril 2021 consid. 1.3.1; 5A_422/2020 du 25 novembre 2020 consid. 1.4.3.2 et la référence). Il incombe à la partie recourante d'alléguer les faits qu'elle considère comme propres à fonder sa qualité pour recourir au Tribunal fédéral selon l'<ref-law>, lorsqu'ils ne ressortent pas à l'évidence de la décision attaquée ou du dossier de la cause (<ref-ruling> consid. 1; <ref-ruling> consid. 1.2; <ref-ruling> consid. 4; <ref-ruling> consid. 1; arrêt 5A_281/2020 précité consid. 1.3.1).
En tant que les recourants requièrent la constatation des parts successorales de l'Association S._, de la Fondation T._ et de la Fondation U._ - lesquelles n'ont pas recouru contre l'arrêt querellé (cf. infra consid. 3) -, l'intérêt personnel qu'ils auraient à prendre de telles conclusions n'apparaît pas d'emblée évident et ils ne l'expliquent pas dans leur mémoire. Les conclusions prises à cet égard sont donc d'emblée irrecevables.
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 s. LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs soulevés (<ref-ruling> consid. 2.4 et les références). Le recourant doit par conséquent discuter les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling> consid. 1.2; <ref-ruling> consid. 1.7.1; <ref-ruling> consid. 2.4 et la référence). Le Tribunal fédéral ne connaît par ailleurs de la violation de droits fondamentaux que si un tel grief a été expressément invoqué et motivé de façon claire et détaillée par le recourant (" principe d'allégation ", <ref-law>; <ref-ruling> consid. 2.1; <ref-ruling> consid. 5.1).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si ceux-ci ont été constatés de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le recourant qui soutient que les faits ont été établis d'une manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.2; <ref-ruling> consid. 6.7; <ref-ruling> consid. 2.2 et la référence), doit satisfaire au principe d'allégation susmentionné (<ref-law>; cf. supra consid. 2.1). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (<ref-ruling> consid. 4.1.2; <ref-ruling> consid. 1.1).
En l'occurrence, dans la partie " En fait " de leur acte, les recourants présentent des " éléments complémentaires " qui ressortiraient des différentes déclarations des témoins et parties et dont le Tribunal cantonal n'aurait pas fait état. Faute de soulever un grief d'arbitraire dûment motivé à cet égard, ces éléments ne seront pas pris en considération.
3.
Seuls trois des héritiers institués par le de cujus dans son testament du 17 mars 2009 (cf. supra let. A.e) ont recouru contre le jugement attaqué devant la Cour de céans. Il n'est toutefois pas nécessaire d'examiner si les autres héritiers institués auraient également dû participer à la présente procédure - aux côtés des trois recourants ou en qualité d'intimés -, dès lors que le recours est, quoi qu'il en soit, voué à l'échec.
4.
Les recourants soutiennent tout d'abord que la requête des intimés aurait dû être déclarée irrecevable, faute pour eux d'avoir la qualité pour agir.
Outre que la qualité pour agir (ou légitimation active) appartient aux conditions matérielles de la prétention litigieuse (<ref-ruling> consid. 3.1.4; <ref-ruling> consid. 2.2.1; <ref-ruling> consid. 3.1) et non aux conditions de recevabilité de l'action, il apparaît que le grief, tel que formulé dans l'acte de recours, n'a pas de portée propre et se confond avec le grief de violation des art. 481 et 572 CC, qui sera traité ci-après (cf. infra consid. 5).
5.
Les recourants reprochent à la cour cantonale d'avoir violé les art. 481 et 572 al. 2 CC ainsi que le principe de l'interdiction de l'arbitraire en retenant que la part successorale de la Fondation J._ devait revenir aux héritiers légaux du défunt.
5.1. La cour cantonale a retenu que le testament du 17 mars 2009 ne comportait aucune clause expresse de substitution. Il ne ressortait pas non plus des clauses dudit testament que le de cujus entendait écarter définitivement les membres de sa famille, soit ses deux demi-frères, auxquels il avait d'ailleurs attribué des legs. Il n'existait ainsi aucun indice suffisant permettant de retenir l'existence d'une substitution vulgaire. Si le défunt avait voulu que les héritiers institués se remplacent réciproquement, il aurait dû le prévoir. Or, il n'avait rien prescrit de tel, le fait qu'il ait institué ses deux demi-frères légataires et réparti le solde de sa succession entre six héritiers institués étant insuffisant à cet égard. Le testament ne comportait aucun point d'appui permettant de considérer que les deux demi-frères qui, en vertu de l'institution d'héritier, avaient à céder le pas devant les héritiers institués, devaient aussi s'effacer si l'un de ceux-ci ne venait pas à la succession. Pour admettre que les héritiers institués aptes à succéder puissent se partager la part de la fondation inexistante, il fallait procéder à une interprétation complétive, fondée sur la volonté hypothétique du de cujus, qui consistait à déterminer la disposition que le testateur aurait prise s'il avait eu connaissance de la situation à l'ouverture de la succession. Toutefois, l'interprétation ne pouvait conduire à établir une volonté que le de cujus n'avait pas exprimée dans les formes prescrites.
Dès lors que l'on ne pouvait tirer du texte du testament une volonté claire du disposant d'imposer une substitution vulgaire volontaire (accroissement), les héritiers légaux de feu H.B._ devaient profiter de la part dévolue à la Fondation J._, inexistante. La succession devait ainsi revenir à raison de 1/10 (1/2 de la part attribuée à la fondation précitée) à D.B._ et de la même quote-part aux membres de la communauté héréditaire de K.B._, à savoir E.B._, F.B._ et G.B._.
5.2. Soulignant que le testament litigieux est un testament public, de sorte que chaque mot qui y figure est " dûment pesé et lourd de sens ", les recourants constatent qu'après avoir institué un certain nombre de légataires (art. 1 du testament), le disposant a prévu que, " pour le solde ", sa succession irait aux héritiers qu'il a institués. L'articulation du texte ainsi que la précision " pour le solde " démontreraient que le testateur avait clairement exclu que les légataires désignés puissent " revenir à la succession à quel (sic) autre titre que ce soit ". Le testateur avait ainsi " fermé le cercle de ses héritiers " et prévu une " substitution fidéicommissaire " [recte: vulgaire] en faveur des héritiers institués. Il n'aurait pu en être autrement que s'il n'avait pas évoqué ses héritiers légaux dans son testament ou avait " institué en parallèle des légataires et des héritiers " de sorte que la qualité de légataire n'aurait pas exclu celle d'héritier, aucune de ces deux hypothèses n'étant réalisée en l'espèce. Par ailleurs, c'était sans doute parce qu'au moment où il avait testé, il était très improbable que l'un de ses héritiers institués ne vienne pas à la succession, que le testateur n'avait pas souligné expressément qu'il voulait exclure ses héritiers légaux. Une telle volonté pouvait également être déduite de la faible valeur des legs attribués aux héritiers légaux et de l'absence de rapports étroits entre ceux-ci et le défunt. La cour cantonale aurait ainsi dû écarter les héritiers légaux.
5.3.
5.3.1. Conformément à l'<ref-law>, les dispositions pour cause de mort peuvent comprendre tout ou partie du patrimoine, dans les limites de la quotité disponible (al. 1). Les biens dont le défunt n'a point disposé passent à ses héritiers légaux (al. 2). Le principe énoncé à l'<ref-law> s'applique non seulement lorsque le défunt n'a pas disposé de tout ou partie de son patrimoine, mais aussi, de manière plus générale, chaque fois qu'une disposition pour cause de mort ne produit pas l'effet voulu par le disposant (STEINAUER, Droit des successions, 2ème éd. 2015, n° 302; COTTI, in: Commentaire du droit des successions, 2012, n° 8 ad <ref-law>). Tel est notamment le cas lorsqu'un héritier institué ne vient pas à la succession, à moins que les dispositions pour cause de mort ne révèlent une intention contraire de leur auteur (cf. <ref-law>, applicable par analogie aux cas dans lesquels un héritier ne vient pas à la succession pour une raison autre que la répudiation [STEINAUER, op. cit., n° 921]; STUDHALTER, in: OFK Kommentar, Schweizerisches Zivilgesetzbuch, 3ème éd. 2016, n° 5 ad <ref-law>). Il faut ainsi réserver une éventuelle substitution vulgaire prévue par le de cujus (<ref-law>). Si une telle clause n'a pas à être expresse, elle doit toutefois ressortir des dispositions pour cause de mort; celles-ci doivent en effet contenir les éléments suffisants qui permettent de retenir que le de cujus a voulu une telle substitution (ATF 64 II 186; MOOSER, La substitution légale et la substitution vulgaire, in: Journée de droit successoral 2018, p. 67 s. n° 60).
5.3.2. Pour interpréter un testament, le juge doit partir de son texte, qui seul exprime valablement la volonté librement manifestée du disposant; toutefois, si les dispositions testamentaires manquent de clarté au point qu'elles peuvent être comprises aussi bien dans un sens que dans un autre, le juge peut interpréter les termes dont le testateur s'est servi en tenant compte de l'ensemble du testament, voire d'éléments extrinsèques, mais dans la mesure seulement où ils permettent d'élucider ou de corroborer une indication contenue dans le texte et d'éclairer la volonté manifestée dans les formes légales par le testateur (<ref-ruling> consid. 1.1, 601 consid. 3.1; <ref-ruling> consid. 3; <ref-ruling> consid. 2a).
Le Tribunal fédéral revoit librement l'interprétation des dispositions de dernière volonté. Il est toutefois lié par les constatations de fait, dont peuvent être déduites la volonté interne du disposant et les motifs qui l'ont inspiré (<ref-ruling> consid. 2; <ref-ruling> consid. 3a et les références; arrêt 5A_644/2015 du 24 novembre 2015 consid. 3.3.1).
5.4. En tant que les recourants s'appuient sur des faits qui ne ressortent pas de l'arrêt attaqué - notamment sur le fait que le défunt et ses demi-frères n'étaient pas proches - sans soutenir que ces éléments auraient été arbitrairement écartés par la juridiction précédente (<ref-law>; cf. supra consid. 2.2), leur critique est d'emblée irrecevable. Par ailleurs, contrairement à ce qu'ils soutiennent, on ne discerne pas en quoi le principe du favor testamenti - selon lequel, entre deux solutions possibles, il faut choisir la plus favorable au maintien de l'acte (ATF <ref-ruling> consid. 3 et les références; arrêt 5A_644/2015 précité consid. 3.3.1) - aurait été violé, la caducité de la clause instituant héritière la Fondation J._ n'étant pas remise en cause.
Pour le surplus, la motivation de la cour cantonale (cf. supra consid. 5.1) ne prête pas le flanc à la critique. Il est, en l'espèce, constant que le testament ne contient pas de clause de substitution expresse, pour le cas où l'un des héritiers institués ne serait pas en mesure de recevoir sa part. Le disposant n'a pas non plus explicitement exclu de sa succession ses demi-frères. Les recourants ne peuvent être suivis lorsqu'ils soutiennent que le fait que les intimés aient été inclus dans le cercle des légataires exclurait qu'ils recueillent une partie de la succession en qualité d'héritiers. En effet, outre que les qualités d'héritier et de légataire ne s'excluent pas nécessairement (cf. <ref-law>), le testament ne contient - comme l'a à juste titre retenu la juridiction précédente - aucune indication quant au fait que les héritiers légaux, qui devaient s'effacer devant les héritiers institués par le de cujus, avaient également à leur céder le pas si l'un d'eux ne venait pas à la succession (cf. ATF 64 II 186; TUOR/PICENONI, in: Berner Kommentar, 2ème éd. 1964, n° 22 ad <ref-law>). L'argument des recourants selon lequel le testateur n'avait pas envisagé que l'une des fondations ou associations gratifiées ne vienne pas à la succession tombe à faux, dès lors que, s'il ressort de la disposition que son auteur n'a pas envisagé une substitution, celle-ci ne saurait être présumée sur la base d'éléments extrinsèques (MOOSER, op. cit., p. 68 n° 60).
Au vu de ce qui précède, la cour cantonale n'a pas violé le droit fédéral en attribuant la part attribuée à la fondation inexistante aux héritiers légaux du de cujus. Infondé, le grief doit être rejeté dans la mesure de sa recevabilité.
6.
En conclusion, le recours est rejeté dans la mesure de sa recevabilité. Les recourants, qui succombent, supporteront les frais judiciaires, solidairement entre eux (art. 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens aux intimés, qui n'ont pas été invités à répondre sur le fond et ont acquiescé à la demande d'effet suspensif (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 8'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3.
Le présent arrêt est communiqué aux parties, à la Cour civile II du Tribunal cantonal du canton du Valais, à l'Association S._, à la Fondation T._ et à la Fondation U._.
Lausanne, le 26 janvier 2022
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Feinberg