Faits :
A.
A._, né en 1955, travaillait en qualité de directeur auprès de la société B._ SA. A ce titre, il était assuré contre le risque d'accident auprès de la Mobilière Suisse Société d'assurances SA (ci-après: la Mobilière). Selon la déclaration de sinistre LAA du 7 septembre 2016 remplie par son employeur, l'assuré "s'est tourné et a ressenti une vive douleur dans le dos" alors qu'il soulevait un sac lourd avec ses deux mains, le 5 septembre 2016. A._ s'est rendu à la Permanence C._ le 6 septembre 2016. Il a été examiné par le docteur D._, médecin-assistant, lequel a diagnostiqué un lumbago et a indiqué dans l'anamnèse: "la veille, en ramassant un sac de 15 kg par terre (en le levant et tournant), douleur aiguë en bas du dos à gauche". Ce praticien a certifié une incapacité de travail entière jusqu'au 8 septembre 2016. Le 9 septembre suivant, l'assuré s'est à nouveau rendu à la Permanence C._ et a été ausculté par la doctoresse E._, médecin-assistante, qui a prolongé son incapacité de travail jusqu'au 12 septembre 2016.
Par courrier du 1er octobre 2016, A._ a demandé à la Mobilière le remboursement de ses frais médicaux. Il a décrit l'événement du 5 septembre 2016 comme suit: "alors que je transportais un sac de terreau d'une quinzaine de kilos de ma voiture à mon balcon, au moment de franchir la porte du balcon, un courant d'air a fait se rabattre la porte sur moi au moment où je franchissais le seuil. Cela m'a fait trébucher et échapper le sac de terreau et en voulant le rattraper je suis tombé et j'ai senti une vive douleur dans le bas du dos côté gauche". Par la suite, le docteur F._, spécialiste en médecine interne et médecin traitant, a fait état de douleurs lombaires après une chute (rapport du 25 octobre 2016). Le 8 novembre 2016, l'assuré a répondu à une première prise de position de la Mobilière. Il a notamment réitéré ses explications sur le déroulement de l'événement du 5 septembre 2016.
Par décision du 24 novembre 2016, confirmée sur opposition le 14 février 2017, la Mobilière a refusé d'allouer ses prestations. Elle a considéré que les explications fournies par A._ dans son courrier du 1er octobre 2016 n'étaient pas vraisemblables. Partant, elle s'est référée aux premières déclarations de l'assuré et a considéré que l'événement du 5 septembre 2016 ne pouvait pas être qualifié d'accident, la condition du caractère extraordinaire faisant manifestement défaut. Au surplus, la Mobilière a précisé que le lumbago ne faisait pas partie de la liste des lésions assimilées à un accident.
B.
Saisie d'un recours de l'assuré, la Cour des assurances sociales du Tribunal cantonal vaudois l'a rejeté par jugement du 12 novembre 2018.
C.
A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant à ce qu'il soit reconnu que l'événement du 5 décembre [recte: septembre] 2016 est un accident et que celui-ci soit pris en charge par la Mobilière. Subsidiairement, il conclut au renvoi de la cause à l'autorité intimée pour nouvelle instruction et/ou nouvelle décision dans le sens des considérants.
La Mobilière conclut au rejet du recours. Le 18 mars 2019, le recourant s'est déterminé sur la réponse de l'intimée.

Considérant en droit :
1.
Le recours est dirigé contre une décision finale (art. 90 LTF) rendue en matière de droit public (art. 82 ss LTF) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (art. 100 LTF) et la forme (art. 42 LTF) prévus par la loi. Il est donc recevable.
2.
Le litige porte sur le droit du recourant à des prestations de l'assurance-accidents, singulièrement sur la question de savoir si l'événement du 5 septembre 2016 est constitutif d'un accident au sens de l'art. 4 LPGA (RS 830.1).
3.
3.1. L'assurance-accidents est en principe tenue d'allouer ses prestations en cas d'accident professionnel ou non professionnel (art. 6 al. 1 LAA). Est réputé accident toute atteinte dommageable, soudaine et involontaire, portée au corps humain par une cause extérieure extraordinaire qui compromet la santé physique, mentale ou psychique ou qui entraîne la mort (art. 4 LPGA). La notion d'accident se décompose ainsi en cinq éléments ou conditions, qui doivent être cumulativement réalisés: une atteinte dommageable, le caractère soudain de l'atteinte, le caractère involontaire de l'atteinte, le facteur extérieur de l'atteinte et, enfin, le caractère extraordinaire du facteur extérieur. Il suffit que l'un d'entre eux fasse défaut pour que l'événement ne puisse pas être qualifié d'accident (<ref-ruling> consid. 4.3.1 p. 221; <ref-ruling> consid. 2.1 p. 404 et les références).
Suivant la définition même de l'accident, le caractère extraordinaire de l'atteinte ne concerne pas les effets du facteur extérieur, mais seulement ce facteur lui-même. Dès lors, il importe peu que le facteur extérieur ait entraîné des conséquences graves ou inattendues. Le facteur extérieur est considéré comme extraordinaire lorsqu'il excède le cadre des événements et des situations que l'on peut objectivement qualifier de quotidiens ou d'habituels, autrement dit des incidents et péripéties de la vie courante (<ref-ruling> consid. 4.3.1 p. 221 et les références). Pour des lésions dues à l'effort (soulèvement, déplacement de charges notamment), il faut examiner de cas en cas si l'effort doit être considéré comme extraordinaire, en tenant compte de la constitution physique et des habitudes professionnelles ou autres de l'intéressé (arrêt 8C_292/2014 du 18 août 2014 consid. 5.1 et la référence).
L'existence d'un facteur extérieur est en principe admise en cas de "mouvement non coordonné", à savoir lorsque le déroulement habituel et normal d'un mouvement corporel est interrompu par un empêchement non programmé, lié à l'environnement extérieur, tel le fait de glisser, de trébucher, de se heurter à un objet ou d'éviter une chute; le facteur extérieur - modification entre le corps et l'environnement extérieur - constitue alors en même temps le facteur extraordinaire en raison du déroulement non programmé du mouvement (<ref-ruling> consid. 2.1 p. 118).
3.2. Au sujet de la preuve de l'existence d'une cause extérieure prétendument à l'origine de l'atteinte à la santé, on rappellera que les explications d'un assuré sur le déroulement d'un fait allégué sont au bénéfice d'une présomption de vraisemblance. Il peut néanmoins arriver que les déclarations successives de l'intéressé soient contradictoires entre elles. En pareilles circonstances, selon la jurisprudence, il convient de retenir la première explication, qui correspond généralement à celle que l'assuré a faite alors qu'il n'était pas encore conscient des conséquences juridiques qu'elle aurait, les nouvelles explications pouvant être - consciemment ou non - le produit de réflexions ultérieures (<ref-ruling> consid. 2a p. 47 et les références; RAMA 2004 n° U 515 p. 420 consid. 1.2; VSI 2000 p. 201 consid. 2d).
4.
4.1. Dans un premier temps, la cour cantonale a considéré comme invraisemblable la chute décrite par le recourant dans son courrier du 1er octobre 2016. Celle-ci ne correspondait pas à ses premières déclarations déduites des rapports médicaux des docteurs D._ et E._ et de la déclaration d'accident établie par son employeur. Or il était peu vraisemblable que l'assuré eût oublié de mentionner un tel fait caractéristique au moins lors de la première des deux consultations médicales. Le docteur D._ avait en outre relevé l'absence de traumatisme, ce qui n'était guère compatible avec une chute. Seul le docteur F._ en avait fait mention, mais a posteriori, en se fondant sur les dires du recourant. La juridiction précédente est arrivée à la conclusion que le reste de la description de l'événement figurant dans le courrier du 1er octobre 2016 ne pouvait pas non plus bénéficier de la présomption de vraisemblance qu'ont usuellement les premières déclarations de l'assuré, d'autant moins que le recourant avait déclaré avoir donné des détails précis de ce qui lui était arrivé "après avoir saisi les subtilités visant à [...] dédouaner [l'assureur] de toutes prises en charge" (courrier du 8 novembre 2016). Dans un deuxième temps, en se référant à la première version du recourant, à savoir une atteinte consécutive à une rotation en portant un sac, la cour cantonale a nié l'existence d'un facteur extérieur extraordinaire. D'après les premiers juges, le port d'un poids d'une quinzaine de kilos et la rotation avec un tel poids ne nécessitaient pas un effort extraordinaire pour une personne adulte normalement constituée. Il n'y avait pas non plus de mouvement non coordonné. Partant, le Tribunal cantonal a retenu que l'événement du 5 septembre 2016 n'était pas constitutif d'un accident.
4.2. Le recourant invoque une violation du droit fédéral (art. 4 LPGA) et une appréciation arbitraire des faits et des preuves. Il reproche aux premiers juges d'avoir considéré comme invraisemblable la chute annoncée à l'intimée sur la base des rapports médicaux des docteurs D._ et E._ et de la déclaration d'accident du 7 septembre 2016 alors que ces documents émanent de tiers. Il estime que c'est bien plutôt le déroulement de l'événement tel que décrit dans sa lettre du 1er octobre 2016 qui aurait dû bénéficier d'une présomption de vraisemblance. En tout état de cause, il soutient qu'il aurait toujours été cohérent dans ses explications et n'aurait fait qu'apporter des précisions quant à l'événement relaté dans un premier temps. En effet, un patient s'attacherait surtout à renseigner son médecin sur la nature de ses douleurs et ses lésions et non sur l'événement à l'origine duquel elles sont intervenues. La chute avait en outre été "signalée" par le docteur F._, ce dont la cour cantonale n'aurait pas tenu compte. Ainsi, d'après le recourant, la juridiction précédente aurait dû admettre le critère du facteur extérieur extraordinaire ressortant clairement de sa description de l'événement du 5 septembre 2016, et, partant, considérer que celui-ci était constitutif d'un accident.
4.3. En l'espèce, les médecins de la Permanence C._ et l'employeur du recourant se sont inévitablement fondés sur les déclarations de ce dernier pour décrire l'événement en cause. Or, aussi concise que soit leur description, ils n'auraient pas omis de faire état d'une chute si l'assuré en avait fait mention. A cet égard, on peine à suivre le recourant lorsqu'il soutient qu'un patient ne s'attacherait pas à renseigner son médecin sur l'événement à l'origine de ses douleurs alors qu'il a lui-même décrit ce qui avait provoqué les siennes, sans toutefois indiquer qu'il était tombé. La mention d'une chute n'est apparue pour la première fois que près d'un mois après l'événement, dans une version des faits différente de celle donnée immédiatement après la survenance de celui-ci. La cour cantonale pouvait dès lors considérer comme invraisemblable la chute alléguée dans l'écrit du 1er octobre 2016 et remettre en cause la plausibilité du reste de la description de l'événement figurant dans ce même document. Elle n'a au demeurant pas omis de tenir compte du rapport médical du docteur F._, mais a constaté que ce dernier avait fait état d'une chute a posteriori en se fondant sur les seules déclarations du recourant. Dans ces conditions, l'autorité cantonale était fondée à se référer aux premières déclarations du recourant pour déterminer si l'événement du 5 septembre 2016 était constitutif d'un accident au sens de l'art. 4 LPGA. Quant à l'examen du cas sous l'angle de l'effort extraordinaire et du mouvement non coordonné, le recourant ne le discute que sur la base de sa description de l'événement du 5 septembre 2016 figurant dans son courrier du 1er octobre 2016. Son argumentation tombe dès lors à faux et il n'y a pas lieu de revenir sur l'analyse des juges cantonaux.
4.4. Il s'ensuit que l'arrêt entrepris échappe à la critique et que le recours doit être rejeté.
5.
Le recourant, qui succombe, supportera les frais de justice (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral de la santé publique.
Lucerne, le 11 septembre 2019
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Paris