Faits :
A.
Par jugement du 10 octobre 2018, le Tribunal de première instance de Genève a prononcé la mainlevée définitive, à concurrence des sommes de 26'716 fr. et 10'816 fr. 80, intérêts en sus, de l'opposition formée par A._ au commandement de payer que lui a notifié l'Office des poursuites de Genève à la réquisition de la société B._ LLP (poursuite n° xx xxxxxx x).
Par arrêt du 1er novembre 2018, la Chambre civile de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a déclaré irrecevable, pour cause de tardiveté, le recours du poursuivi.
B.
Le 15 novembre 2018, le poursuivi a requis la restitution du délai de recours contre le jugement du 10 octobre 2018. Il a fait valoir qu'il avait quitté le domicile conjugal au début du mois d'octobre 2018 et qu'en passant chercher son courrier le 17 octobre 2018, il avait noté par erreur comme date de réception du jugement précité le 17 octobre 2018 au lieu du 16 octobre 2018, date à laquelle son épouse avait réceptionné le courrier recommandé au domicile conjugal.
Par arrêt du 18 janvier 2019, la Cour de justice a rejeté la requête de restitution du délai de recours.
C.
Par mémoire expédié le 4 mars 2019, A._ exerce un recours en matière civile au Tribunal fédéral. Il conclut en substance à l'annulation de l'arrêt du 18 janvier 2019 et à sa réforme, en ce sens que la requête de restitution de délai est admise, que la Cour de justice déclare recevable le recours qu'il a formé contre le jugement du 10 octobre 2018 et qu'elle statue sur le fond.
D.
Par ordonnance présidentielle du 25 mars 2019, la requête d'effet suspensif du recourant a été rejetée.

Considérant en droit :
1.
Le recours a été déposé en temps utile (<ref-law>) contre une décision finale (<ref-law>; arrêt 4A_137/2013 du 7 novembre 2013 consid. 7.3 non publié aux <ref-ruling>; voir aussi <ref-ruling> consid. 2.2) rendue en matière de poursuite pour dettes (<ref-law>) par un tribunal supérieur ayant statué sur recours en dernière instance cantonale (art. 75 al. 1 et 2 LTF). La valeur litigieuse requise est atteinte (<ref-law>). Le recourant, débouté par la juridiction précédente dans sa requête en restitution de délai, a qualité pour recourir (<ref-law>). Le recours en matière civile est ainsi en principe recevable au regard des dispositions précitées.
2.
Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>); cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs soulevés (<ref-ruling> consid. 1.4; <ref-ruling> consid. 1.1). En outre, le Tribunal fédéral ne connaît de la violation de droits fondamentaux que si un tel grief a été invoqué et motivé par le recourant (" principe d'allégation ", <ref-law>; <ref-ruling> consid. 3.3; <ref-ruling> consid. 3.2), c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (<ref-ruling> consid. 1.2; <ref-ruling> consid. 1.4.2). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 2.3; <ref-ruling> consid. 10.1 et les arrêts cités).
3.
Le recourant reproche à la cour cantonale d'avoir violé l'<ref-law>. Il ajoute avoir été attrait abusivement devant des tribunaux anglais incompétents et que son absence à l'audience de mainlevée du 3 septembre 2018 ne peut lui être reprochée. Dans un tel contexte, interpréter strictement la notion de " faute légère " pour un retard d'un seul jour contreviendrait au " principe du procès équitable ".
3.1. Aux termes de l'<ref-law>, le tribunal peut accorder un délai supplémentaire ou citer les parties à une nouvelle audience lorsque la partie défaillante en fait la requête et rend vraisemblable que le défaut ne lui est pas imputable ou n'est imputable qu'à une faute légère (al. 1). La requête est présentée dans les dix jours qui suivent celui où la cause du défaut a disparu (al. 2). Si une décision a été communiquée, la restitution ne peut être requise que dans les six mois qui suivent l'entrée en force de la décision (al. 3).
Le défaut doit découler d'une absence de faute ou d'une faute légère. L'<ref-law> est ainsi moins sévère que les <ref-law>, 13 al. 1 PCF, 33 al. 4 LP et 94 al. 1 CPP, lesquelles dispositions subordonnent la restitution à l'absence de toute faute. La faute légère vise tout comportement ou manquement qui, sans être acceptable ou excusable, n'est pas particulièrement répréhensible, tandis que la faute grave suppose la violation de règles de prudence vraiment élémentaires qui s'imposent impérieusement à toute personne raisonnable. Le point de savoir quelles circonstances excusables une partie a rendu vraisemblables concerne l'appréciation des preuves et constitue une question de fait. En revanche, dire si la faute de la partie requérante peut encore être qualifiée de légère au regard des constatations de fait souveraines de l'autorité précédente est une question de droit (arrêts 4A_20/2019 du 29 avril 2019 consid. 2; 4A_52/2019 du 20 mars 2019 consid. 3.1 et les nombreuses références).
Le tribunal appelé à se prononcer sur la requête de restitution dispose d'une marge d'appréciation. Le Tribunal fédéral n'intervient dès lors que si la décision attaquée s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation, si elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou à l'inverse, si elle n'a pas tenu compte d'éléments qui auraient absolument dû être pris en considération; il sanctionne en outre les décisions rendues en vertu d'un pouvoir d'appréciation lorsqu'elles aboutissent à un résultat manifestement injuste ou à une iniquité choquante (arrêt 4A_52/2019 du 20 mars 2019 consid. 3.1 et les références).
3.2. En l'occurrence, il faut admettre avec la cour cantonale qu'en sa qualité d'avocat, le recourant ne pouvait ignorer la nécessité d'apporter une attention toute particulière à la date de réception de la décision du Tribunal de première instance, ceci afin d'être en mesure de calculer correctement l'échéance du délai de recours (cf. notamment arrêts 4A_52/2019 du 20 mars 2019 consid. 3.3; 4A_442/2009 du 17 novembre 2009 consid. 2). Ainsi, lorsqu'il a pris connaissance dudit jugement le 17 octobre 2018, à savoir le lendemain de la notification effectuée en mains de son épouse, le recourant aurait dû s'assurer de la date de sa notification, et non se contenter, comme il l'explique lui-même, de croire " de bonne foi que dit jugement avait été reçu par son épouse le 17 octobre 2018". A cet égard et contrairement à ce qu'il soutient, le seul fait qu'il ait reçu le pli non pas via son Etude d'avocats mais à son domicile personnel ne change rien au fait qu'en sa qualité d'avocat, il devait savoir que procéder à la vérification précitée fait partie des précautions élémentaires lorsque l'on entend interjeter recours. De même, la circonstance selon laquelle le pli a été réceptionné par son épouse et non par lui personnellement, et qu'il se trouverait dans une situation familiale qu'il qualifie d'extrêmement délicate, est également dépourvu de pertinence. En outre, le fait que la restitution de délai ne porte que sur un seul jour n'a pas non plus d'incidence sur l'issue du litige. En tant que le recourant prétend qu'il n'aurait pas pu s'attendre à ce que la décision soit notifiée à ce moment-là, puisque contrairement à ce que requiert l'art. 84 al. 1 (recte: al. 2) LP, la notification a eu lieu non pas cinq jours, mais cinq semaines après l'audience de mainlevée, il y a lieu de relever, d'une part, que le délai de cinq jours prévu par l'<ref-law> n'est qu'un délai d'ordre (arrêts 5A_203/2017 du 11 septembre 2017 consid. 5.3; 5A_209/2012 du 28 juin 2012 consid. 2 non publié in <ref-ruling>) et, d'autre part, que dans la mesure où il savait qu'une procédure était pendante, le recourant devait de toute manière s'attendre à ce qu'un jugement lui soit notifié. Au demeurant, il perd de vue que l'on ne se trouve pas dans une situation dans laquelle il aurait été empêché d'agir durant toute la durée du délai de recours, mais au contraire dans un cas où il a pris connaissance à temps du jugement de première instance et calculé de manière erronée ledit délai de recours, faute d'avoir procédé aux vérifications élémentaires qui s'imposaient à lui eu égard à sa qualité d'avocat.
Au surplus, on ne peut suivre le recourant, en tant qu'il semble sous-entendre que la question de la légèreté de la faute, au sens de l'<ref-law>, devrait être interprétée plus ou moins strictement en fonction de circonstances qui ont trait au fond du litige, voire des chances de succès du recours qu'il a introduit tardivement. Enfin, il omet que la garantie d'un procès équitable ne dispense pas les plaideurs d'agir dans le respect des règles de procédure légitimement imposées dans l'intérêt d'une administration efficace de la justice et dans l'intérêt des autres parties au procès (<ref-ruling> consid. 2.1 p. 137; <ref-ruling> consid. 2.2.3 p. 173).
Dans ces conditions, la cour cantonale n'a pas abusé de son pouvoir d'appréciation en écartant l'existence d'une faute légère au sens de l'<ref-law>.
4.
Le recourant expose que si la décision querellée devait entrer en force, il devrait " subir la condamnation qu'elle induit, sans jamais avoir été entendu par un tribunal compétent ", de sorte que son droit d'être entendu serait violé.
Cette argumentation se rapporte au fond du litige. Dès lors que le présent recours a uniquement pour objet la question de la requête en restitution du délai de recours, elle ne saurait être examinée (sur la notion d'objet du litige, cf. notamment <ref-ruling> consid. 4.4.2 et les références).
5.
En conclusion, le recours est rejeté, aux frais du recourant (<ref-law>), qui versera en outre à l'intimée des dépens pour ses déterminations sur la requête d'effet suspensif (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Une indemnité de 300 fr., à payer à l'intimée à titre de dépens, est mise à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 12 juin 2019
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Dolivo