Faits :
A.
B._ (1930) est décédé le 3 juillet 2015. Ses héritiers légaux et réservataires sont ses trois enfants, E._, D._ et C._. Par testament authentique du 28 juin 2013, il a désigné Me A._ en qualité d'exécuteur testamentaire.
B.
Le 29 juin 2017, C._ et D._ ont introduit une requête en surveillance de l'exécuteur testamentaire, dans laquelle ils ont conclu principalement à ce qu'un délai soit imparti à celui-ci pour présenter un rapport des opérations concrètes effectuées et à venir, pour établir l'inventaire de la succession de B._, pour calculer la masse des réserves et pour produire les comptes de la succession au 31 décembre 2016. A titre subsidiaire, ils ont demandé la révocation de l'exécuteur testamentaire.
Par ordonnance du 15 novembre 2017, la Juge administrative du Tribunal de première instance du canton du Jura (ci-après: la Juge administrative) a appelé en cause E._. Celle-ci ne s'est pas déterminée dans le délai imparti.
Par décision du 8 mars 2018, la Juge administrative a partiellement admis la requête en surveillance de l'exécuteur testamentaire. Elle a imparti à celui-ci un délai de dix jours dès l'entrée en force de la décision pour dresser un rapport des opérations concrètes à effectuer pour établir l'inventaire et le calcul de la masse des réserves, ainsi qu'un délai de dix jours pour remettre à C._ et D._ les comptes de la succession au 31 décembre 2016, respectivement au 31 décembre 2017. La requête a été rejetée pour le surplus.
Statuant par arrêt du 11 décembre 2018, la Cour administrative du Tribunal cantonal du canton du Jura a rejeté le recours interjeté par l'exécuteur testamentaire contre cette décision.
C.
Par mémoire du 15 janvier 2019, A._ exerce un recours en matière civile au Tribunal fédéral. Il conclut à l'annulation de la décision cantonale et à sa réforme, en ce sens que la requête introduite par les intimés est rejetée.
Le recourant a adressé au Tribunal fédéral une écriture complémentaire accompagnée de pièces le 7 février 2019.
Des observations n'ont pas été requises.
D.
Par ordonnance présidentielle du 6 février 2019, la requête d'effet suspensif du recourant a été rejetée.

Considérant en droit :
1.
Le recours a été déposé contre une décision finale (<ref-law>) en matière de surveillance d'un exécuteur testamentaire, à savoir une décision susceptible d'un recours en matière civile (art. 72 al. 2 let. b ch. 5 LTF), rendue par un tribunal supérieur statuant sur recours (art. 75 al. 1 et 2 LTF). Comme le litige porte sur le prononcé de mesures administratives dans le cadre de la surveillance de l'activité de l'exécuteur testamentaire, le recours a pour objet une affaire pécuniaire, dont la valeur litigieuse, qui se détermine au regard de la valeur des actes accomplis ou devant être accomplis par l'exécuteur testamentaire contesté (arrêts 5A_414/2012 du 19 octobre 2012 consid. 1.1; 5A_395/2010 du 22 octobre 2010 consid. 1.2.2), atteint 30'000 fr. dans le cas présent (art. 51 al. 1 let. a et 74 al. 1 let. b LTF) selon les explications de l'intéressé (<ref-law>; <ref-ruling> consid. 1.1.1 et les références). Le recourant, qui a succombé en instance cantonale, a qualité pour recourir (<ref-law>).
Pour le surplus, le présent recours a été déposé en temps utile (<ref-law>). En revanche, l'écriture complémentaire du recourant, postérieure à l'échéance du délai de recours, est tardive, partant, irrecevable; il en va de même des pièces produites à cette occasion (arrêts 5A_856/2016 du 13 juin 2018 consid. 1.7, non publié in <ref-ruling>, et les références; 5A_ 623/2017 du 14 mai 2018 consid. 2, non publié in <ref-ruling>, et les références).
2.
2.1. Le recours en matière civile peut être formé pour violation du droit fédéral (<ref-law>), y compris des droits constitutionnels. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (<ref-ruling> consid. 2.3; <ref-ruling> consid. 2). Cela étant, compte tenu de l'obligation de motivation qui incombe au recourant (cf. art. 42 al. 1 et 2 LTF), sous peine d'irrecevabilité, il n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF <ref-ruling> consid. 2; <ref-ruling> consid. 1.3; <ref-ruling> consid. 1.4).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>); le recourant ne peut critiquer les constatations de fait que si celles-ci ont été retenues d'une manière manifestement inexacte ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le recourant qui entend se plaindre d'un établissement manifestement inexact - c'est-à-dire arbitraire (art. 9 Cst.; <ref-ruling> consid. 4.1.2; <ref-ruling> consid. 2.4; <ref-ruling> consid. 1.5) - des faits, doit satisfaire au principe d'allégation (<ref-law>). Les critiques appellatoires sont irrecevables (<ref-ruling> consid. 2.3).
En tant que les faits présentés par le recourant divergent de ceux constatés dans la décision attaquée et qu'ils ne sont pas critiqués sous l'angle de l'établissement arbitraire des faits ou de l'appréciation arbitraire des preuves, il n'en sera pas tenu compte. Il en va ainsi de l'ensemble de la partie " Faits " de son écriture (p. 5-8) ainsi que de nombreux faits sur lesquels il appuie son argumentation juridique, tels que le fait qu'il aurait organisé l'enterrement de B._, notamment le rapatriement de son cercueil à U._, qu'il aurait établi, le 7 juillet 2015, un procès-verbal inventoriant les objets appartenant au défunt qui étaient situés dans l'appartement de sa compagne, ou encore les motifs pour lesquels la notaire chargée d'établir l'inventaire fiscal n'aurait pas encore pu satisfaire à ses obligations.
3.
Le disposant peut, par une disposition pour cause de mort, charger un exécuteur testamentaire d'exécuter ses dernières volontés (<ref-law>). En principe, l'exécuteur testamentaire a les droits et les devoirs de l'administrateur officiel d'une succession (<ref-law>). Lorsque le testateur n'en dispose pas autrement, l'exécuteur testamentaire est chargé de faire respecter la volonté du défunt, notamment de gérer la succession, de payer les dettes de la succession et du défunt, d'acquitter les legs et de préparer le partage conformément aux ordres du disposant ou suivant la loi (<ref-law>; <ref-ruling> consid. 4.3.1; arrêt 5A_448/2018 du 10 mai 2019 consid. 4.4.2.1). L'exécuteur testamentaire est responsable de la bonne et fidèle exécution des tâches qui lui sont confiées; cette responsabilité à l'égard des héritiers s'apprécie comme celle d'un mandataire, auquel on l'assimile (<ref-law>; <ref-ruling> consid. 4.1 et 4.3; arrêts 5A_488/2018 du 10 mai 2019 consid. 4.4.2.1; 4A_552/2016 du 24 mai 2017 consid. 3; 5A_55/2016 du 11 avril 2016 consid. 3.1). L'exécuteur testamentaire doit agir au mieux des intérêts de la succession; il jouit à cet égard d'un grand pouvoir d'appréciation, limité d'une part par le droit de recours des héritiers à l'autorité de surveillance, d'autre part, par son devoir de diligence sanctionné par sa responsabilité à leur égard (<ref-ruling> consid. 4.3.1 in fine et les références).
L'exécuteur testamentaire est soumis à la surveillance de l'autorité qui a notamment le pouvoir de prendre des mesures préventives (recommandations, voire directives), ainsi que des mesures disciplinaires, dont la plus grave est la destitution de celui-ci pour cause d'incapacité ou de violation grossière de ses devoirs (arrêts 5A_488/2018 du 10 mai 2019 consid. 4.4.2.1; 5A_414/2012 du 19 octobre 2012 consid. 4.1 et les références; GRÉGOIRE PILLER, in Commentaire romand, Code civil II, 2016, n° 172 s. ad <ref-law>). L'autorité de surveillance vérifie les mesures prises ou projetées par l'exécuteur testamentaire; elle dispose à cet égard d'un large pouvoir d'appréciation (DANIEL ABT, Der Willensvollstrecker aus Sicht des Erben: " il buono, il brutto o il cattivo ", PJA 2018, p. 1315 n° 9), de sorte que le Tribunal fédéral n'intervient qu'avec retenue (cf. à ce sujet <ref-ruling> consid. 9.2; <ref-ruling> consid. 2.1). Quant aux questions de droit matériel, elles demeurent du ressort des tribunaux ordinaires (<ref-ruling> consid. 3; <ref-ruling>; 66 II 148; arrêts 5A_55/2016 du 11 avril 2016 consid. 3.1; 5A_195/2013 du 9 juillet 2013 consid. 2.2.6).
4.
Le recourant fait valoir la violation des art. 518 et 595 al. 3 CC. Il affirme que la décision querellée est arbitraire et disproportionnée, que l'autorité de surveillance s'est substituée indûment à l'exécuteur testamentaire, qu'elle n'a pas respecté le pouvoir d'appréciation de celui-ci et qu'elle a abusé de son propre pouvoir d'appréciation.
Tout d'abord, il expose que la décision cantonale est contradictoire, dès lors qu'elle retiendrait, en fait, qu'il a entrepris toutes les démarches requises dans le cadre de sa fonction et qu'il a toujours satisfait à ses devoirs, mais lui dicterait tout de même des mesures préventives. Il reconnaît n'avoir pas encore déterminé le calcul de la masse des réserves et n'avoir soumis aucun projet de partage, mais précise qu'il n'est pas en mesure de le faire puisqu'il lui manque des indications essentielles à cette fin, en raison de l'irrespect par les héritiers eux-mêmes de leur obligation de renseigner. Au surplus, il serait illogique de lui demander de dresser un rapport des opérations concrètes à effectuer pour établir l'inventaire et le calcul de la masse des réserves, alors que ce sont les héritiers qui font obstacle à la liquidation de la succession, la décision attaquée n'indiquant au demeurant pas en quoi ce rapport serait nécessaire et utile en l'état. De même, l'état de la succession aux 31 décembre 2016 et 2017 ne pourrait être dressé en l'absence d'informations que les héritiers se refusent à transmettre. Le recourant soutient aussi que le délai de 10 jours qui lui est imparti est impossible à tenir s'il ne dispose pas des informations précitées, étant encore relevé que la première décision ne mentionnerait aucune réserve à ce sujet, contrairement à ce que retiendrait l'arrêt cantonal.
5.
Contrairement à ce que prétend le recourant, la cour cantonale n'a pas constaté qu'il avait satisfait à l'ensemble de ses obligations, de sorte que c'est à tort que celui-ci la qualifie de contradictoire.
5.1. En premier lieu, la juridiction précédente a notamment souligné que l'exécuteur testamentaire n'avait pas encore établi l'inventaire du patrimoine successoral au jour du décès, ni soumis un projet de partage, ni clairement exposé les opérations concrètes qu'il convenait encore d'accomplir pour permettre d'établir l'inventaire et le calcul de la masse des réserves. Selon le premier jugement, confirmé par l'arrêt attaqué, il ressortait certes des pièces du dossier que les héritiers n'avaient pas renseigné l'exécuteur testamentaire, en particulier sur les donations immobilières de chacun d'eux, ni de manière claire sur les donations sujettes à rapport ou réunion, alors que celui-ci leur avait à réitérées reprises demandé de lui fournir les informations relatives aux biens en leur possession et à leur situation envers B._ ainsi que les renseignements susceptibles d'influencer le partage ou l'administration de la succession. Il semblait aussi que l'exécuteur testamentaire n'avait pas non plus reçu d'informations précises en lien avec l'existence de polices d'assurance-vie conclues par B._ en faveur de ses enfants ou de salaires mensuels que celui-ci leur versait, ou encore de montants consignés chez Me F._. Le dossier ne contenait pas non plus de relevé des versements reçus par les héritiers de la part de leur père dans les cinq années précédant son décès, ni les justificatifs de paiements effectués par leur père pour l'acquisition de l'appartement à V._ de D._ et de l'appartement à W._ de C._. Ainsi, ces lacunes d'informations rendaient difficiles l'établissement de l'inventaire, le calcul de la masse des réserves et le partage. Les héritiers devaient collaborer activement et notamment transmettre à l'exécuteur testamentaire les extraits fonciers dont il avait besoin, l'état des éventuelles dettes et les impositions fiscales y relatives. Les parties devaient aussi notamment se mettre d'accord sur l'expert qui serait mandaté pour les évaluations immobilières.
En conséquence de ce qui précède, la Juge administrative, dont le raisonnement a été confirmé par la cour cantonale, a imparti un délai de 10 jours à l'exécuteur testamentaire pour dresser une liste précise et concrète des opérations à effectuer pour établir l'inventaire et le calcul de la masse des réserves. Elle a précisé que l'exécuteur testamentaire impartirait ensuite un délai aux héritiers pour produire les documents et répondre aux questions permettant d'établir l'inventaire de la succession et la masse de calcul des réserves, conformément à l'<ref-law>, ce qu'il serait en mesure de faire une fois que tous les biens auraient été évalués au jour du décès. Aucune sanction n'a cependant été prononcée à l'encontre du recourant à cet égard, et celui-ci n'a pas non plus été destitué de ses fonctions. Au vu de l'ensemble des éléments qui précèdent et contrairement aux affirmations du recourant, force est de constater que la décision attaquée apparaît manifestement proportionnée, tient compte des circonstances du cas d'espèce et n'excède pas le pouvoir d'appréciation de l'autorité de surveillance, qui ne s'est pas substituée à l'exécuteur testamentaire mais lui a donné des instructions qui s'inscrivent dans le cadre des devoirs inhérents à son activité (cf. supra consid. 3).
5.2. En second lieu, s'agissant du délai fixé pour remettre aux héritiers un état des comptes de la succession au 31 décembre 2016 et au 31 décembre 2017, il ressort de la première décision, confirmée par la cour cantonale, que ces documents peuvent être établis et produits à brève échéance, et qu'ils ont pour but de permettre aux intimés de satisfaire à leurs obligations légales. Comme l'a correctement relevé l'autorité cantonale, l'établissement des comptes de la succession entre dans le cadre du devoir général de l'exécuteur testamentaire d'informer les héritiers et de permettre à ceux-ci la consultation des documents en sa possession, notamment la comptabilité et les pièces justificatives, et leur en délivrer des copies. L'exécuteur testamentaire doit en effet répondre en tout temps aux questions et demandes de renseignement des héritiers (arrêt 5A_568/2017 du 10 avril 2018 consid. 4.3). Enfin, en tant que le recourant affirme à cet égard qu'un délai de 10 jours est impossible à respecter sans les informations détenues par les héritiers, on ne saurait le suivre, puisqu'il lui appartient de transmettre aux héritiers les informations dont il dispose, tout en conservant la possibilité, comme l'a précisé l'autorité cantonale, d'indiquer que celles-ci sont en l'état incomplètes et ne contiennent que les éléments en sa possession.
6.
En conclusion, le recours est rejeté dans la mesure de sa recevabilité, aux frais du recourant (<ref-law>). Les intimés, qui n'ont pas été invités à se déterminer sur le fond du recours, mais ont obtenu gain de cause dans leur conclusions relatives à la requête d'effet suspensif, ont droit à une indemnité de dépens pour cette écriture, mise à la charge du recourant (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le recourant versera aux intimés, créanciers solidaires, une indemnité de 500 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux participants à la procédure et à la Cour administrative du Tribunal cantonal de la République et canton du Jura.
Lausanne, le 20 juin 2019
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Dolivo