Faits :
A.
A.a. Dans le cadre d'une procédure en validation de séquestre n° xx xxxxxx x, l'Office des poursuites du canton de Genève (ci-après: office) a informé par courrier du 31 mars 2021 le débiteur, A._, de sa décision de procéder à une nouvelle inspection de certains objets séquestrés se trouvant dans l'appartement dont ce dernier est propriétaire à Genève. Selon l'office, l'expert mandaté pour estimer la valeur des objets devait connaître des détails supplémentaires ne résultant pas des photographies prises lors d'une première inspection. L'office proposait deux dates d'inspection au débiteur, éloignées de trois respectivement quatre semaines de l'envoi de son courrier.
A.b. A la suite d'un échange de correspondance entre le débiteur et l'office, que le débiteur n'a pas produit devant l'instance cantonale, l'office lui a adressé le 27 avril 2021 un nouveau courrier confirmant sa décision de procéder à une nouvelle inspection locale, en fixant la date au 11 mai 2021 à 10h00 et invitant le débiteur à être présent ou à désigner un représentant, faute de quoi les locaux feraient l'objet, à ses frais, d'une ouverture forcée.
Par courriel du 29 avril 2021, le débiteur a proposé à l'office de lui fournir des pièces (factures, certificats ou autres) relatives aux objets concernés. L'office a refusé cette proposition par retour de courriel, en expliquant que de tels documents n'étaient à son sens pas suffisants au regard des exigences légales et jurisprudentielles.
B.
B.a. Par acte déposé le 10 mai 2021 devant la Chambre de surveillance des offices des poursuites et faillites de la Cour de justice du canton de Genève (ci-après: chambre de surveillance), A._ a déposé une plainte au sens de l'art. 17 LP contre le courrier du 27 avril 2021 de l'office, concluant à son annulation et à ce qu'il soit ordonné à l'office de produire ses échanges avec l'expert mandaté pour estimer les objets séquestrés ainsi que la liste de ceux parmi ces objets concernant lesquels des informations supplémentaires devraient encore être obtenues.
A titre préalable, il a sollicité l'octroi de l'effet suspensif, faisant valoir que la mesure ordonnée ne revêtait aucun caractère d'urgence et constituait une atteinte à sa sphère privée, et que sa plainte, qui n'était pas dénuée de chance de succès, deviendrait partiellement sans objet si l'inspection se déroulait comme prévu.
B.b. Par ordonnance du 10 mai 2021, la chambre de surveillance a rejeté la requête d'effet suspensif assortissant la plainte précitée.
C.
Par acte posté le 20 mai 2021, A._ interjette un recours en matière civile devant le Tribunal fédéral contre cette décision. Il conclut principalement à sa réforme, en ce sens que l'effet suspensif est accordé à sa plainte du 10 mai 2021, et subsidiairement à son annulation et au renvoi de la cause à la chambre de surveillance pour nouvelle décision dans le sens des considérants. En substance, il se plaint d'arbitraire dans l'établissement des faits (art. 9 Cst.), de la violation des art. 13, et 5 al. 2 en lien avec l'art. 36 Cst., ainsi que d'arbitraire (art. 9 Cst.) dans l'application de l'art. 36 LP en lien avec l'art. 17 LP.
Des observations au fond n'ont pas été requises.
D.
Par ordonnance présidentielle du 14 juin 2021, la requête de mesures provisionnelles assortissant le recours a été admise, en ce sens que l'office a été invité à surseoir à l'exécution de la mesure contestée jusqu'à droit connu sur l'issue du recours fédéral.

Considérant en droit :
1.
1.1. La décision querellée constitue une décision incidente visée par l'art. 93 al. 1 LTF dès lors que, portant sur l'effet suspensif (art. 36 LP), elle ne conduit pas à la clôture définitive de l'instance (<ref-ruling> consid. 1; <ref-ruling> consid. 1.3; arrêts 5A_134/2017 du 5 mai 2017 consid. 1.1; 5A_187/2012 du 18 juin 2012 consid. 1.1). Hormis les décisions mentionnées à l'art. 92 al. 1 LTF, sur des questions non pertinentes en l'espèce, une décision préjudicielle ou incidente ne peut être entreprise immédiatement que si elle peut causer un préjudice irréparable (art. 93 al. 1 let. a LTF) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (art. 93 al. 1 let. b LTF; <ref-ruling> consid. 1.3). La pratique du Tribunal fédéral est d'entrer en matière sur un recours dirigé contre un refus d'effet suspensif contre une décision d'exécution forcée (arrêts 5A_266/2020 du 26 mai 2020 consid. 2.1; 5A_134/2017 précité; 5A_1026/2015 du 8 mars 2016 consid. 1.1; 5A_968/2015 du 7 mars 2016 consid. 1; 5A_518/2015 du 7 septembre 2015 consid. 1.1).
1.2. Le recours contre une décision incidente est soumis à la même voie de droit que celle qui est ouverte contre la décision principale (arrêts 5A_134/2017 précité, consid. 1.2; 5A_219/2015 du 3 juin 2015 consid. 1.1; 5A_419/2014 du 9 octobre 2014 consid. 1.2 et les références). En l'occurrence, il s'agit d'une décision prise dans le cadre d'une procédure de plainte (art. 17 LP), soit en matière de poursuite pour dettes et de faillite (art. 72 al. 2 let. a LTF). Elle est donc susceptible du recours en matière civile, sans égard à la valeur litigieuse (art. 74 al. 2 let. c LTF). Le recours a en outre été interjeté dans le délai (art. 100 al. 2 let. a LTF) et la forme (art. 42 LTF) prévus par la loi, par une partie qui a pris part à la procédure devant l'autorité précédente et qui a un intérêt à l'annulation ou à la modification de l'arrêt entrepris (art. 76 al. 1 LTF). Le recours en matière civile est donc en principe recevable au regard des dispositions qui précèdent.
2.
2.1. La décision portant sur l'effet suspensif est une mesure provisionnelle au sens de l'art. 98 LTF (<ref-ruling> consid. 2). Seule peut donc être invoquée la violation des droits constitutionnels. Le Tribunal fédéral n'examine de tels griefs que s'ils ont été invoqués et motivés (" principe d'allégation "; art. 106 al. 2 LTF), à savoir expressément soulevés et exposés de manière claire et détaillée (<ref-ruling> consid. 2.1; <ref-ruling> consid. 2.4). La partie recourante doit ainsi indiquer quelle disposition constitutionnelle aurait été violée et démontrer, par une argumentation précise, en quoi consiste la violation (<ref-ruling> consid. 2.2; <ref-ruling> consid. 3.3; <ref-ruling> consid. 1.2, 397 consid. 1.4 in fine). Les critiques de nature appellatoire sont irrecevables (ATF <ref-ruling> consid. 2.4 et les références).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Dans l'hypothèse d'un recours soumis à l'art. 98 LTF, le recourant qui entend invoquer que les faits ont été établis de manière manifestement inexacte ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels, conformément au principe d'allégation susmentionné (cf. supra consid. 2.1). Le recourant ne peut se limiter à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit indiquer de façon précise en quoi ces constatations sont arbitraires au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.4.3). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (art. 106 al. 2 LTF; <ref-ruling> consid. 1.3.1; <ref-ruling> consid. 2.3 et les références).
Les deux précisions apportées par le recourant à l'état de fait dans la partie " II. En fait " de son recours, sans dénoncer la violation de l'art. 9 Cst., sont donc d'emblée irrecevables.
3.
3.1. L'autorité de surveillance a refusé l'effet suspensif, au motif que la plainte paraissait irrecevable et mal fondée. Selon elle, d'une part, la plainte déposée le 10 mai 2021 apparaissait tardive en tant qu'elle était dirigée contre le principe même d'une nouvelle inspection locale et que le courrier du 27 avril 2021 qu'elle visait expressément ne faisait que confirmer la décision du 31 mars 2021 sur ce principe, tout en fixant la date d'exécution de la mesure que le recourant ne critiquait pas; d'autre part, il apparaissait peu probable qu'une violation du principe de proportionnalité pût être reprochée à l'office dans la mesure où l'atteinte à sa sphère privée était expressément prévue à l'art. 91 al. 1 ch. 3 et al. 3 LP et où le mode alternatif qu'il proposait entraînerait des délais peu compatibles avec la célérité recherchée en matière d'exécution forcée.
3.2. Le recourant se plaint d'arbitraire dans l'établissement des faits (art. 9 Cst.), en tant que l'autorité de surveillance a jugé que sa plainte paraissait irrecevable. En réalité, le recourant se plaint de la violation de l'art. 9 Cst. dans l'application du droit, en tant que le juge précédent a jugé qu'il aurait dû attaquer la décision du 31 mars 2021 pour s'en prendre au principe de l'inspection locale. En effet, s'agissant des faits pertinents pour trancher le litige, l'autorité de surveillance a retenu tant l'existence des deux courriers, l'un du 31 mars 2021 avec deux dates pour procéder à l'inspection domiciliaire et l'autre du 27 avril 2021 fixant la date de l'inspection le 11 mai 2021, ainsi que la correspondance échangée par les intéressés entre les deux courriers précités, et, enfin, l'ultime proposition du recourant de fournir des pièces relatives aux objets concernés le 29 avril 2021, refusée par l'office.
3.2.1. Le recourant expose qu'il n'a pas souhaité s'opposer au courrier du 31 mars 2021 mais a préféré prendre contact avec l'office, d'abord par téléphone, puis par courriel, afin de proposer de lui transmettre toutes les informations nécessaires concernant les détails requis par l'expert. Il explique en outre que plusieurs échanges ont eu lieu entre lui et l'office et que, le 29 avril 2021, il a proposé à celui-ci de fournir les factures, certificats ou autres éléments qui permettraient à l'expert de se déterminer. Cette proposition a toutefois été refusée par l'office le jour même, l'office confirmant alors que ses agents se rendraient à son domicile en date du 11 mai 2021 " comme précisé dans [son] courrier du 27 avril 2021 ". Il conclut que l'office a lui-même admis que c'est bien par la décision du 27 avril 2021 que la visite domiciliaire contestée a été ordonnée, de sorte que sa plainte du 10 mai 2021 n'est pas tardive.
3.2.2.
3.2.2.1. L'octroi ou le refus de l'effet suspensif selon l'art. 36 LP relève du pouvoir d'appréciation de l'autorité de surveillance (<ref-ruling> et les références). La décision dépend d'une pesée des intérêts entre la continuation de la procédure d'exécution et le maintien des choses telles qu'elles existaient avant que la décision attaquée ne soit rendue. En règle générale, l'effet suspensif sera ordonné lorsque la plainte ou le recours ne semble pas dénué de chances de succès et pour autant que la mise en oeuvre immédiate de la mesure querellée, parallèlement à la procédure de plainte ou de recours, risque d'avoir pour conséquence de rendre inopérant le jugement à rendre par l'autorité de surveillance qui annulerait ou modifierait ladite mesure (arrêt 5A_266/2020 du 26 mai 2020 consid. 5.1.1 et la référence).
3.2.2.2. Par " mesure " de l'office au sens des art. 17 s. LP, il faut entendre tout acte d'autorité accompli par l'office ou par un organe de la poursuite en exécution d'une mission officielle dans une affaire concrète (<ref-ruling> consid. 1.1; <ref-ruling> consid. 1c et les références). L'acte de poursuite doit être de nature à créer, modifier ou supprimer une situation du droit de l'exécution forcée dans l'affaire en question (<ref-ruling> consid. 1.1). En d'autres termes, il doit s'agir d'un acte matériel qui a pour but la continuation ou l'achèvement de la procédure d'exécution forcée et qui produit des effets externes (parmi l'abondante casuistique: <ref-ruling> consid. 1).
Un office peut reconsidérer une décision qu'il a prise tant qu'elle n'est pas entrée en force de chose jugée, à savoir tant que le délai de plainte de 10 jours de l'art. 17 al. 2 LP n'est pas échu et, en cas de plainte, jusqu'à l'envoi de sa réponse (art. 17 al. 4 LP). Une fois le délai de plainte échu, une reconsidération ou une rectification n'est plus admissible, à moins que la décision en question ne soit frappée de nullité absolue au sens de l'art. 22 LP et n'ait pu, pour cette raison, acquérir force de chose jugée (<ref-ruling> consid. 1b; <ref-ruling> consid. 2; <ref-ruling> consid. 1; 78 III 49 consid. 1; arrêt 5A_312/2012 du 18 juillet 2012 consid 4.2.1, publié in Pra 2013 n° 37 p. 297).
Une décision de l'office refusant de revenir sur une mesure prise antérieurement par lui n'est pas le point de départ d'un nouveau délai de plainte et ne constitue pas une nouvelle décision susceptible de plainte (<ref-ruling> consid. 3.2). La plainte dirigée contre une décision de confirmation de l'office est ainsi irrecevable (arrêt 7B.53/2006 du 8 août 2006 consid. 3.2).
3.2.3. En l'espèce, le recours doit être rejeté pour deux motifs: premièrement, faute d'élément relatif à la date de notification de la décision du 31 mars 2021 qu'il appartenait au recourant de prouver; il n'est pas arbitraire de retenir que, lorsque l'office a rendu la décision du 27 avril 2021, le délai pour déposer plainte contre la première décision apparaissait déjà échu, de sorte qu'il n'avait pas à reconsidérer sa première décision et que le recourant devait, entre temps, attaquer la décision du 31 mars 2021 s'il voulait protéger ses droits s'agissant du principe de la visite domiciliaire. Secondement, la décision du 27 avril 2021 de maintenir ladite visite ne saurait être considérée comme une nouvelle décision indépendante. Il n'appert pas qu'il y ait eu des éléments nouveaux de nature à modifier l'appréciation antérieure de l'office (ATF 35 I 208 consid. 1; cf. par exemple: ATF 133 II 580). Il n'est donc pas non plus arbitraire de retenir que cette décision - qui ne modifiait que la date d'exécution qui n'avait du reste pas été définitivement arrêtée dans le premier courrier du 31 mars 2021 - n'apparaît que comme la simple confirmation d'une décision déjà prise antérieurement et, ainsi, comme un refus de reconsidérer celle-ci.
Il suit de là que c'est sans arbitraire (art. 9 Cst.) que l'autorité cantonale a jugé que, la plainte apparaissant irrecevable pour cause de tardiveté en tant qu'elle était dirigée contre le principe de l'inspection domiciliaire déjà ordonné le 31 mars 2021, et seulement confirmé le 27 avril 2021, l'effet suspensif devait être refusé.
Cette première partie de la double motivation de la décision attaquée permettant à elle seule de sceller le sort du recours, il n'y a pas lieu d'examiner les autres griefs du recourant (sur la double motivation, cf. entre autres: <ref-ruling> consid. 6.3).
4.
En définitive, le recours est rejeté, aux frais de son auteur (art. 66 al. 1 LTF). Aucuns dépens ne sont dus (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au recourant, à l'Office cantonal des poursuites de Genève, à B._ et au Président de la Chambre de surveillance des Offices des poursuites et faillites de la Cour de justice du canton de Genève.
Lausanne, le 13 juillet 2021
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Achtari