Faits : A. A.X._, né en 1956, et B.X._ née en 1961, se sont mariés le 30 mars 1990. Deux enfants, actuellement majeurs, sont issus de leur union: C._, née en 1990, et D._, née en 1992. Le 29 août 2013, l'épouse a requis des mesures protectrices de l'union conjugale. A l'issue de l'audience du 15 novembre 2013, la Présidente du Tribunal civil de l'arrondissement de La Côte a fixé aux parties un délai au 16 décembre suivant pour déposer des déterminations valant plaidoiries. Par prononcé du 13 janvier 2014, ce magistrat a astreint le mari à verser à l'épouse, dès le 1er septembre 2013, une contribution d'entretien d'un montant de 3'800 fr. par mois, et dit que celui-ci continuerait à prendre à sa charge la moitié des frais extraordinaires de la villa conjugale copropriété des conjoints. Pour fixer la pension, cette magistrate a appliqué la méthode du minimum vital avec répartition de l'excédent. Constatant que le mari n'avait pas rendu vraisemblable qu'une partie de son solde disponible, qui s'élevait à 6'878 fr. 10, faisait l'objet d'une épargne, elle a considéré qu'il se justifiait qu'il couvre le déficit de l'épouse et que l'excédent soit réparti par moitié entre les parties. B. Par arrêt du 1er avril 2014, notifié le 23 avril suivant, le Juge délégué de la Cour d'appel civile du Tribunal cantonal du canton de Vaud a rejeté l'appel formé par le mari et confirmé le prononcé du 13 janvier 2014. C. Par acte du 26 mai 2014, le mari exerce un recours en matière civile contre l'arrêt précité. Il conclut, principalement, à ce qu'il lui soit donné acte de son engagement de continuer à payer les charges hypothécaires de l'ancien domicile conjugal, à ce qu'il y soit condamné en tant que de besoin, à ce que le canton de Vaud soit condamné en tous les frais de l'instance fédérale, lesquels comprendront une équitable indemnité à titre de participation aux honoraires de son avocat, et à ce que tout opposant soit débouté de toute autre ou contraire conclusion. Subsidiairement, il conclut à l'annulation de l'arrêt attaqué, au renvoi de la cause à la cour cantonale pour nouvelle décision au sens des considérants, à ce que le canton de Vaud soit condamné en tous les frais de l'instance fédérale, lesquels comprendront une équitable indemnité à titre de participation aux honoraires de son avocat, et à ce que tout opposant soit débouté de toute autre ou contraire conclusion. Des observations n'ont pas été requises.