Faits : A. A.a. Par décision du 6 mars 2013, B._ AG (ci-après: la poursuivante) a obtenu du Tribunal du district de Sion la mainlevée provisoire de l'opposition au commandement de payer le montant de xxxx fr. avec intérêts à 3,75% l'an dès le 17 décembre 2011 formée par A._ (ci-après: le poursuivi), alors domicilié à C._. A.b. A.b.a. Le 3 juin 2013, la poursuivante a adressé à l'Office des poursuites du district de La Riviera-Pays-d'Enhaut (ci-après: l'office) une réquisition de continuer la poursuite. Elle y a joint une attestation de résidence délivrée le 21 mai 2013 par l'Office de la population de la commune de D._, selon laquelle le poursuivi était domicilié en résidence principale à D._, rue ..., depuis le 10 avril 2013, en provenance de X._ (France). A.b.b. Le 18 juin 2013, l'office a établi une commination de faillite et a tenté de notifier cet acte au poursuivi le 19 juin 2013 par envoi sous pli recommandé à son adresse à D._. Le pli est venu en retour avec la mention: " Le destinataire est introuvable à l'adresse indiquée. " L'office a alors remis le pli à la Police Riviera aux fins de notification. Le 13 novembre 2013, le fonctionnaire chargé de cet acte a dressé un procès-verbal constatant " l'échec de la notification d'un acte de poursuite ". Il en ressort que " bien que convoqué le 05.08.2013 pour se présenter au Poste de Police d'ici au 15.08.2013, [le poursuivi] se soustrait obstinément à la notification ceci malgré en outre trois vacations au domicile ou au lieu de travail afin de tenter la notification aux dates suivantes: lundi 5 août 2013, 15h30, domicile, convocation dans boîte aux lettres; mardi 1 er octobre 2013, 17h30, domicile, convocation dans boîte aux lettres; mercredi 13 novembre 2013, 17h30, domicile, convocation dans boîte aux lettres ", qu'il " n'a pas donné suite à plusieurs messages laissés sur son répondeur, qui l'invitai[en]t à se présenter dans les meilleurs délais dans nos locaux " et que " [s]elon sa déclaration du 26.06.2013, [il] est employé de l'entreprise qui administre l'immeuble à ..., [alors même qu']aucun nom de société ne figure à l'intérieur de cette bâtisse ". Le 18 novembre 2013, l'office a adressé au poursuivi une lettre, par pli recommandé et courrier A, le priant de se présenter dans ses bureaux dans un délai échéant le 25 novembre 2013, à défaut de quoi la notification se ferait soit auprès de son employeur, soit par publication dans la Feuille officielle suisse du commerce (FOSC) ou dans la Feuille des avis officiels du canton de Vaud (FAO), conformément à l'art. 66 al. 4 ch. 2 LP. Le poursuivi n'a pas donné suite à cette convocation et le pli a été retourné à l'échéance du délai de garde avec la mention " non réclamé ". L'office a alors fait notifier la commination de faillite par publication dans la FAO du 6 décembre 2013. Il en ressort que cette publication a eu lieu le même jour dans la FOSC. B. B.a. Par décision du 24 février 2014, le Président du Tribunal d'arrondissement de l'Est vaudois, autorité inférieure de surveillance, a rejeté la plainte du poursuivi, qui faisait valoir que la commination de faillite était nulle au vu de l'incompétence de l'office à raison du lieu, du mode de notification de l'acte et de son contenu erroné. B.b. Par arrêt du 19 juin 2014, la Cour des poursuites et faillites du Tribunal cantonal vaudois, autorité supérieure de surveillance, a rejeté le recours interjeté par le poursuivi contre cette décision. C. Par acte posté le 3 juillet 2014, A._ interjette un recours en matière civile contre cet arrêt. Il conclut à son annulation et, principalement, au constat de la nullité de la commination de faillite publiée dans la FAO du canton de Vaud du 6 décembre 2013, subsidiairement, à l'annulation de cette commination, et, plus subsidiairement, au renvoi de la cause à l'autorité supérieure de surveillance pour nouvelle décision au sens des considérants. En substance, il se plaint de la violation des art. 9 Cst. dans l'établissement des faits, art. 46 ss et 66 al. 4 LP. Des observations n'ont pas été requises. D. Par ordonnance du 18 juillet 2014, l'effet suspensif a été accordé au recours.