Faits :
A.
A.a. Le 3 mars 2016, l'Administration cantonale de l'impôt fédéral direct et l'Office cantonal du contentieux financier ont chacun adressé à A._ et à B._ une demande de sûretés, à hauteur de xx'xxx'xxx fr. (impôts fédéraux et amendes fiscales pour les périodes 2004 à 2011, intérêts en sus) en ce qui concerne la première, et à concurrence de xx'xxx'xxx fr. (impôts cantonaux et amendes fiscales pour les périodes 2003 à 2011, intérêts en sus) en ce qui concerne la seconde.
Le même jour, ils ont remis leurs demandes de sûretés, assimilées à des ordonnances de séquestre, à l'Office des poursuites et faillites du district de Sierre (ci-après: Office). Une liste des objets séquestrés a été annexée à chacune de ces ordonnances. Il en ressortait notamment les éléments suivants:
Objets appartenant à M. A._ à séquestrer :
- [...]
- Participations que détient M. A._ dans la société C._ SA
- Participations que détient M. A._ dans la société D._ SA
- Les 15'100'345 actions que détient M. A._ dans la société E._ SA auprès de la banque I._ SA, à W._: N° de relation aa.aaaaaa-a
- Les 19'746'145 actions que détient M. A._ dans la société F._ auprès de la banque I._ SA, à W._: N° de relation aa.aaaaaa-a
- Les 155'386 actions que détient M. A._ dans la société E._ SA auprès de la banque I._ SA, à W._: N° de relation bb.bbbbbb-b
- Les 137'000 actions que détient M. A._ dans la société F._ auprès de la banque I._, à W._: N° de relation bb.bbbbbb-b
- Les 6'707'705 actions que détient M. A._ dans la société G._ auprès de la banque I._ SA, à W._: N° de relation cc.cccccc-c
- Les 1'000'000 actions que détient M. A._ dans la société H._ auprès de la banque J._, à X._: N° de relation dddd-dddddd
- [...]
Les 8 et 16 mars 2016, l'Office a exécuté les ordonnances précitées en ce qui concerne A._ (séquestre n° 1 [impôts fédéraux et amendes] et n° 2 [impôts cantonaux et amendes]).
A.b. Dans deux courriers du 18 avril 2016, l'Office cantonal du contentieux financier a, une nouvelle fois, demandé à l'Office d'exécuter les deux séquestres précités fondés sur les demandes de sûretés du 3 mars 2016. Il lui a transmis une liste d'objets appartenant à A._ et devant être séquestrés, ainsi rédigée:
- Le 99.98% des actions que détient M. A._ dans la société C._ SA de siège à U._
- Le 73% des actions que détient M. A._ dans la société D._ SA de siège à V._
A séquestrer, conformément à l'article 99 LP, le fruit des actions (dividendes, tantièmes,...) mentionnées ci-après, lesquelles font déjà l'objet d'un séquestre.
- Les 15'100'345 actions que détient M. A._ dans la société E._ SA auprès de la banque I._ SA, à W._: N° de la relation aa.aaaaaa-a
- Les 19'746'145 actions que détient M. A._ dans la société F._ auprès de la banque I._, à W._: N° de la relation aa.aaaaaa-a
- Les 155'386 actions que détient M. A._ dans la société E._ SA auprès de la banque I._ SA, à W._: N° de la relation bb.bbbbbb-b
- Les 137'000 actions que détient M. A._ dans la société F._ auprès de la banque I._ SA, à W._: N° de la relation bb.bbbbbb-b
- Les 6'707'705 actions que détient M. A._ dans la société G._ auprès de la banque I._ SA, à W._: N° de la relation cc.cccccc-c
- Les 1'000'000 actions que détient M. A._ dans la société H._ auprès de la banque J._, à X._: N° de la relation dddd-dddddd
A.c. Le 19 avril 2016, l'Office a procédé aux séquestres requis et, le 2 mai 2016, a adressé deux nouveaux procès-verbaux de séquestre à A._ (n° 3 [impôts fédéraux et amendes] et n° 4 [impôts cantonaux et amendes]).
B.
B.a. Par écriture du 13 mai 2016, A._ a déposé une dénonciation (<ref-law>), subsidiairement une plainte (<ref-law>), auprès du Tribunal du district de Sierre (ci-après: Tribunal) en concluant à la nullité des séquestres complémentaires n° 3 et n° 4, subsidiairement à l'annulation de ceux-ci.
Par décision du 17 octobre 2016, le Tribunal a rejeté ces conclusions.
B.b. Par décision du 9 mai 2017, l'Autorité supérieure en matière de plainte LP du Tribunal cantonal valaisan (ci-après: Autorité supérieure) a rejeté le recours de A._ contre cette décision.
C.
Par acte posté le 22 mai 2017, A._ interjette un recours en matière civile contre cette décision devant le Tribunal fédéral. Il conclut principalement à la constatation de la nullité des séquestres complémentaires n° 3 et n° 4 cités dans les procès-verbaux de séquestre dressés par l'Office des poursuites et faillites du district de Sierre le 2 mai 2016, et, subsidiairement, à l'annulation desdits séquestres, respectivement des procès-verbaux de séquestre querellés. Il invoque la violation des art. 274 s. LP.
Invités à répondre, l'Office et l'Autorité supérieure ont informé le Tribunal fédéral qu'ils n'avaient pas d'observation à formuler. L'Administration cantonale de l'impôt fédéral direct et l'Office cantonal du contentieux financier n'ont pas donné suite à l'invitation à se déterminer.

Considérant en droit :
1.
Le recours a été déposé à temps dans le délai légal de 10 jours (<ref-law>) - et non de 30 jours comme indiqué à tort au pied de la décision attaquée - à l'encontre d'une décision finale (<ref-law>; <ref-ruling> consid. 1.2), rendue en matière de poursuite pour dettes (<ref-law>, en relation avec l'<ref-law>), par une autorité supérieure de surveillance statuant en dernière instance cantonale (<ref-law>). Il est recevable sans égard à la valeur litigieuse (art. 74 al. 2 let. c LTF). Le plaignant, qui a succombé devant l'autorité précédente et possède un intérêt digne de protection à la modification de la décision attaquée, a qualité pour recourir (<ref-law>).
2.
2.1. La décision relative à l'exécution d'un séquestre (<ref-law>) ne porte pas sur des mesures provisionnelles au sens de l'<ref-law> (<ref-ruling> consid. 1.2 et les références), contrairement à l'ordonnance elle-même (<ref-ruling> consid. 1.2; <ref-ruling> consid. 1). Le recours en matière civile peut dès lors être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être lié ni par les moyens des parties ni par les motifs de l'autorité cantonale (<ref-ruling> consid. 1.3; <ref-ruling> consid. 1.4). Cependant, vu l'exigence de motivation contenue à l'<ref-law>, il s'en tient en principe aux questions juridiques que la partie recourante soulève dans la motivation du recours; il n'est pas tenu de traiter, à l'instar d'une juridiction de première instance, toutes les questions juridiques pouvant se poser, lorsqu'elles ne sont plus discutées devant lui (<ref-ruling> consid. 2; <ref-ruling> consid. 1.3; <ref-ruling> consid. 1.4). La partie recourante doit par conséquent critiquer les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling> consid. 2).
2.2. Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>).
3.
3.1. S'agissant de la légalité des séquestres, l'Autorité supérieure a jugé que des procédures en contestation des procès-verbaux de séquestre n° 1 et n° 2 étaient pendantes auprès du Tribunal de district de Sierre, si bien qu'il subsistait un doute quant à la validité de ceux-ci. Il pouvait ainsi se justifier d'apporter une précision en requérant de nouveaux séquestres fondés sur les mêmes créances que celles faisant l'objet des ordonnances du 3 mars 2016, spécifiant plus précisément les objets à séquestrer. Il s'agissait toutefois d'une simple précision apportée à la désignation des actifs déjà séquestrés le 3 mars 2016, et non d'une modification de l'ampleur de ceux-ci, précision qui s'était révélée du reste inutile puisque le terme de " participations " utilisé dans les ordonnances a finalement été jugé suffisant. Elle a également précisé que, sur la base des ordonnances de séquestre du 3 mars 2016, des avis au sens de l'<ref-law> avaient déjà été adressés, le 7 mars 2016, aux établissements bancaires concernés et recouvraient tous les droits d'actionnaire du plaignant. Elle a donc conclu que les procès-verbaux de séquestre du 2 mai 2016 ne faisaient pas état de nouveaux séquestres portant sur des biens qui n'auraient pas été déjà visés, mais rappelaient plutôt des séquestres déjà existants.
S'agissant de la notification des procès-verbaux de séquestre du 2 mai 2016, l'Autorité supérieure a jugé que les courriers du 18 avril 2016 n'étaient que des demandes formelles de renouvellement de séquestres déjà effectués. C'était donc à bon droit que l'Office avait dressé au pied des ordonnances de séquestre du 3 mars 2016 les procès -verbaux du 2 mai 2016 qui avaient ensuite été communiqués au poursuivi.
3.2. Le recourant se plaint de la violation des art. 274 s. LP. Il soutient qu'une fois l'ordonnance de séquestre rendue, celle-ci doit être exécutée telle quelle par l'Office sans qu'il soit question pour ce dernier de recevoir après coup des instructions complémentaires du juge. Il souligne que c'est de manière contradictoire que l'autorité de surveillance fonde une partie de son argumentation sur la jurisprudence autorisant un créancier à solliciter un nouveau séquestre ainsi que le fait qu'il n'a pas eu la possibilité de contester le courrier du 18 avril 2016.
4.
La question qui se pose est celle de la validité d'une exécution complémentaire d'un séquestre.
4.1.
4.1.1. Selon l'art. 170 al. 1 1 ère phr. de la loi fédérale sur l'impôt fédéral direct du 14 décembre 1990 (LIFD, RS 642.11), la demande de sûretés, que l'administration cantonale de l'impôt fédéral direct peut exiger en tout temps si le contribuable n'a pas de domicile en Suisse ou que les droits du fisc paraissent menacés (cf. <ref-law>), est assimilée à une ordonnance de séquestre au sens de l'<ref-law>. Pour cela, il faut toutefois que la première contienne toutes les informations exigées pour la seconde (<ref-law>; FREY, in Basler Kommentar, DBG, 3 ème éd., 2017, n° 6 ad <ref-law>). Ainsi, tandis que la demande de sûretés n'a pas besoin de nommer les objets, cette indication est nécessaire si la demande doit valoir ordonnance de séquestre, conformément à l'<ref-law> (CURCHOD, in Commentaire romand, Impôt fédéral direct, 2 ème éd., 2017, n° 54 ad <ref-law>; FREY, op. cit., n° 144 ad <ref-law>). Le séquestre peut être demandé en tout temps sur la base de la demande de sûretés, celle-ci pouvant tout d'abord ne constituer qu'une simple invitation à prester les sûretés (FREY, op. cit., n° 10 ad <ref-law>). Pour mettre en exergue la fonction double de la décision (demande de sûretés et ordonnance de séquestre), deux documents sont rédigés en pratique: l'un d'eux seulement porte la dénomination d'ordonnance de séquestre, renvoie à la demande de sûretés et décrit les biens à séquestrer; ce second document n'a pas de portée propre et est exécutable seulement avec la demande de sûretés (FREY, op. cit., n° 2 ad <ref-law>).
Contrairement à la demande de sûretés, pour lui permettre d'assurer sa fonction, l'ordonnance de séquestre n'est pas notifiée au contribuable mais directement adressée à l'office des poursuites pour exécution, avec une copie de la demande de sûretés. Celle-ci est ensuite notifiée au contribuable immédiatement après l'exécution du séquestre (CURCHOD, op. cit., loc. cit.; FREY, op. cit., n° 12 ad <ref-law>).
L'autorité compétente pour prononcer le séquestre fiscal n'est pas le juge mais l'autorité fiscale. Elle accorde le séquestre, indépendamment du lieu de situation des objets à séquestrer. L'opposition au séquestre (<ref-law>) n'est pas recevable (cf. <ref-law> et 78 3ème phr. LHID). En revanche, le débiteur peut recourir contre la décision de sûretés selon les voies de recours ordinaires (<ref-law>; arrêts 5A_731/2016 du 20 décembre 2016 consid. 3, publié in SJ 2017 I p. 325; 5A_150/2015 du 4 juin 2015 consid. 5.2.3, publié in SJ 2016 I p. 138). Comme il en va dans la procédure d'opposition suite à un séquestre (arrêt 5A_925/2012 du 5 avril 2013 consid. 4.2), c'est à ce stade que seront contrôlées les conditions de fond de la demande de sûretés valant ordonnance de séquestre, en particulier l'existence de biens appartenant au débiteur. Cette procédure est importante pour respecter le droit d'être entendu du débiteur car celui-ci n'intervient pas lors de la demande de sûretés; elle lui donne la possibilité de présenter ses objections et l'autorité compétente réexamine en contradictoire la réalisation des conditions de la demande de sûretés ordonnée par l'autorité administrative.
Une fois opéré, le séquestre doit être validé selon les règles de l'<ref-law>. Si un séquestre est levé, l'autorité fiscale doit décider de faire exécuter un nouveau séquestre, sur la base de la demande de sûretés (FREY, op. cit., n° 2 ad <ref-law>).
Les art. 169 et 170 de la loi fiscale du canton du Valais du 10 mars 1976 (LF, RS/VS 642.1) ont un contenu identique à celui des art. 169 et 170 LIFD.
4.1.2. L'administration cantonale de l'impôt fédéral direct charge l'office des poursuites d'exécuter le séquestre et lui notifie l'ordonnance de séquestre (cf. art. 170 al. 1 2ème phr. LIFD et 78 2ème phr. LHID; art. 275 ss et 91 ss LP). La plainte auprès de l'autorité de surveillance (<ref-law>) est par ailleurs ouverte contre l'exécution du séquestre (arrêts 5A_731/2016 du 20 décembre 2016 consid. 3, publié in SJ 2017 I p. 325; 5A_150/2015 du 4 juin 2015 consid. 5.2.3, publié in SJ 2016 I p. 138). Les compétences de l'office des poursuites et des autorités de surveillance sont limitées aux mesures proprement dites d'exécution du séquestre, ainsi qu'au contrôle de la régularité formelle de l'ordonnance de séquestre. Ce pouvoir d'examen entre en effet par définition dans les attributions d'un organe d'exécution, qui ne peut donner suite à un ordre lacunaire ou imprécis, ni exécuter un séquestre entaché de nullité (<ref-ruling> consid. 2.1). Tel pourrait être le cas si l'ordonnance ne désigne pas les biens à séquestrer avec suffisamment de précision ou qu'elle ne contient pas toutes les informations requises par l'<ref-law>. L'office ne peut pas non plus exécuter une ordonnance rendue par un juge manifestement incompétent et doit également respecter les dispositions en matière de saisie (art. 92 à 106 LP; arrêt 5A_925/2012 du 5 avril 2013 consid. 4.3 et les références). Lorsqu'elle entend ordonner un séquestre, il incombe dès lors à l'autorité fiscale, qui est à la fois créancière séquestrante et autorité de séquestre, de désigner avec une précision suffisante les biens qui font l'objet de la mesure (<ref-law>). L'office ne peut pas combler d'éventuelles lacunes à ce sujet (arrêt 5A_615/2014 du 11 décembre 2014 consid. 3.2 et la référence, publié in SJ 2015 I p. 133).
4.1.3. L'existence d'un séquestre ne fait pas obstacle à une nouvelle requête fondée sur la même créance, voire sur le même cas de séquestre. Lorsque les mêmes biens font l'objet de deux séquestres en force pour la même créance, l'exécution du second séquestre n'est pas subordonnée à la preuve stricte de la caducité du précédent (arrêt 5A_925/2012 du 5 avril 2013 consid. 6.2, publié in SJ 2013 I p. 463).
4.2. En l'espèce, l'autorité fiscale a ordonné à l'office d'exécuter un séquestre sans se fonder sur une demande de sûretés valant ordonnance de séquestre. En effet, la désignation des biens à saisir de manière suffisamment précise pour que l'office puisse l'exécuter est une condition du séquestre. L'office aurait donc dû rejeter une telle requête, manifestement contraire au droit fédéral. Si l'autorité fiscale craignait que sa première demande de sûretés ne réponde pas aux exigences de l'<ref-law>, elle devait rendre une nouvelle décision corrigée, la démarche consistant à faire séquestrer les mêmes biens étant autorisée. Elle ne pouvait en revanche pas donner de nouvelles instructions à ces fins à l'office.
Il suit de là que, bien fondé, le recours doit être admis.
5.
En conclusion, le recours est admis et la décision attaquée réformée en ce sens que les séquestres n° 3 et n° 4 sont annulés. Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge de l'Etat du Valais (art. 66 al. 1 et 4 a contrario LTF). Celui-ci versera au recourant la somme de 7'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. La décision attaquée est réformée en ce sens que les séquestres n° 3 et n° 4 sont annulés.
2.
Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge de l'Etat du Valais.
3.
L'Etat du Valais versera au recourant la somme de 7'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties, à l'Office des poursuites et faillites de Sierre et au Tribunal cantonal du canton du Valais, Juge unique de l'Autorité supérieure de surveillance en matière de LP.
Lausanne, le 25 septembre 2017
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Achtari