Faits :
A.
B._ a obtenu un CFC de mécanicien. Il a ensuite travaillé en qualité de monteur de façades, dans le domaine de la création et de la gestion d'établissements publics, avant d'exercer l'activité d'agent de sécurité au sein de la société A._ SA, spécialisée dans ce domaine, qu'il a créée en 2001.
Le 11 octobre 2008, B._ a été victime d'une chute qui a entraîné une fracture de l'astragale droit et une incapacité totale d'exercer la profession d'agent de sécurité. Le 14 janvier 2010, il a déposé une demande de prestations de l'assurance-invalidité, indiquant qu'il travaillait à plein temps et percevait un salaire annuel brut de 200'000 francs. Les mesures professionnelles envisagées par l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) n'ont pas abouti.
Dans un rapport d'enquête économique du 8 juillet 2010, l'office AI a constaté que A._ SA était active dans le domaine du conseil en sécurité, de la protection des personnes, ainsi qu'en matière de renseignements et investigations. A l'examen des comptes d'exploitation, il ressortait que l'assuré avait perçu un revenu de 80'000 fr. en 2004, 2005 et 2006, de 84'000 fr. en 2007, puis de 200'490 fr. en 2008. La moyenne des revenus réalisés de 2004 à 2008 était ainsi de 104'898 fr., somme à laquelle il convenait d'ajouter la part de l'intimé au bénéfice de la société, en moyenne 5'439 fr. 75 par an; le revenu sans invalidité s'élevait ainsi à 110'338 francs. Dans un rapport complémentaire d'enquête économique pour indépendant du 16 février 2011, l'office AI a retenu, sur la base des comptes 2009 de la société, que le salaire de l'assuré n'aurait pas été maintenu dans la même proportion qu'en 2008. En conséquence, il s'est écarté du revenu effectif réalisé en 2008.
Par décision du 15 mai 2014, l'office AI a fixé le taux d'invalidité de l'assuré à 29 %, résultant de la comparaison d'un revenu sans invalidité de 110'338 fr. avec un gain d'invalide de 78'324 fr. Il a refusé de prendre en charge un reclassement et de verser une rente d'invalidité.
B.
B._ a déféré cette décision au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en concluant au versement d'une rente entière.
Par jugement du 11 septembre 2015, la juridiction cantonale a fixé le revenu sans invalidité à 200'400 fr. La comparaison de ce revenu avec le gain d'invalide de 78'324 fr. ayant abouti à un taux d'invalidité de 62 %, elle a dès lors réformé la décision administrative, en ce sens que le droit de l'assuré aux trois quarts de rente à compter du 1 er juillet 2010 a été reconnu.
C.
L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant à la confirmation de sa décision du 15 mai 2014.
L'intimé conclut au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit :
1.
Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Le recourant ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été établis en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire arbitraire et si la correction du vice est susceptible d'influer sur le sort de la cause (ATF 134 V 53 consid. 4.3 p. 62 et les références). Il appartient au recourant de démontrer le caractère arbitraire par une argumentation répondant aux exigences de l'art. 42 al. 2 LTF, respectivement de l'art. 106 al. 2 LTF (ATF 133 II 249 consid. 1.4.3 p. 254 s.).
2.
Le litige porte uniquement sur le revenu sans invalidité de l'intimé ainsi que, par voie de conséquence, sur le taux d'invalidité. Le revenu d'invalide de 78'324 fr. n'est pas contesté.
3.
3.1. La constatation des revenus à comparer dans le cadre de la détermination du taux d'invalidité relève d'une question de fait dans la mesure où elle repose sur une appréciation concrète des preuves, mais d'une question de droit dans la mesure où elle se fonde sur l'expérience générale de la vie (parmi d'autres: arrêt 9C_502/2014 du 5 septembre 2014 consid. 3 et les arrêts cités).
3.2. Pour évaluer le taux d'invalidité, le revenu que l'assuré aurait pu obtenir s'il n'était pas invalide est comparé à celui qu'il pourrait obtenir en exerçant l'activité qui peut raisonnablement être exigée de lui après les traitements et les mesures de réadaptation, sur un marché du travail équilibré (art. 28a al. 1 LAI et art. 16 LPGA). La comparaison des revenus s'effectue, en règle générale, en chiffrant aussi exactement que possible les montants de ces deux revenus et en les confrontant l'un avec l'autre, la différence permettant de calculer le taux d'invalidité.
Le revenu sans invalidité se déduit, en règle générale, d'après le dernier salaire que l'assuré a obtenu avant l'atteinte à la santé, en tenant compte de l'évolution des circonstances à l'époque où est né le droit à la rente. Compte tenu des capacités professionnelles de l'assuré et des circonstances personnelles le concernant, on prend en considération ses chances réelles d'avancement compromises par le handicap, en posant la présomption que l'assuré aurait continué d'exercer son activité sans la survenance de son invalidité. Des exceptions ne sauraient être admises que si elles sont établies au degré de la vraisemblance prépondérante (ATF 134 V 322 consid. 4.1 p. 325; 129 V 222 consid. 4.3.1 p. 224 et la référence; arrêt 9C_439/2009 du 30 décembre 2009 consid. 5.1).
Selon la jurisprudence, il est toutefois possible de s'écarter du dernier salaire perçu avant la survenance de l'atteinte à la santé lorsqu'on ne peut le déterminer sûrement (cf. ATF 128 V 29 consid. 1 p. 30), notamment lorsqu'il est soumis à des fluctuations importantes; il faut alors procéder à une moyenne des gains réalisés sur une période relativement longue (arrêts 9C_868/2009 du 22 avril 2010 consid. 2.3 et 2.4 et 9C_361/2008 du 9 février 2009 consid. 6.2). C'est notamment le cas si le dernier salaire obtenu avant la survenance de l'invalidité est nettement plus élevé que les salaires obtenus jusqu'alors. Il ne peut servir de référence pour le revenu sans invalidité que s'il est établi, selon la vraisemblance prépondérante, que l'assuré aurait continué à réaliser un tel salaire (arrêts 9C_751/2011 du 30 avril 2012 consid. 4.1, 9C_5/2009 du 16 juillet 2009 consid. 2.3, in SVR 2009 IV n° 58 p. 181).
4.
4.1. La juridiction cantonale a considéré qu'il n'y avait pas lieu de s'écarter de la règle consacrée par la jurisprudence, à savoir déterminer le revenu sans invalidité en se fondant sur le salaire réalisé en dernier lieu avant l'atteinte à la santé. Elle a admis que l'entreprise opérait dans un secteur d'activité de "niche", qu'elle était en plein développement, et qu'il n'y avait pas d'indice qu'elle aurait périclité. Par ailleurs, l'intimé avait apporté la preuve que la poursuite de cette activité par deux de ses anciens associés leur avait procuré une rémunération substantielle, bien supérieure au revenu sans invalidité qu'il avait perçu en 2008. De l'avis des premiers juges, l'office recourant, qui avait exprimé des doutes à cet égard, n'avait toutefois pas avancé d'argument concret qui justifiait de le suivre au degré de la vraisemblance prépondérante qu'il invoquait. Il convenait ainsi d'admettre que l'intimé aurait poursuivi une activité florissante.
4.2. Le recourant se prévaut d'une violation de la LAI et de la jurisprudence en matière d'évaluation du gain de la personne valide, ainsi que d'une constatation arbitraire des faits. Il soutient qu'il y a lieu de s'écarter du dernier revenu obtenu avant l'atteinte à la santé, puisqu'on ne peut l'évaluer sûrement (cf. ATF 128 V 29 consid. 1 p. 30). Invoquant également les arrêts 9C_868/2009, 9C_361/2008, 9C_751/2011 et 9C_5/2009, cités au consid. 3.2 ci-avant, le recourant observe que le revenu de l'intimé était soumis à des fluctuations importantes à relativement court terme. A son avis, aucun élément objectif ne permettait d'admettre que la rémunération de 2008 aurait pu être maintenue au même niveau, les renseignements obtenus parlant plutôt en faveur d'une année 2008 exceptionnelle. Il en déduit qu'il faut se baser sur le revenu moyen réalisé sur plusieurs années. La prise en compte des rémunérations versées durant les cinq dernières années d'activité reflète ainsi la situation économique concrète.
4.3. De son côté, l'intimé soutient que le revenu de l'année 2008 correspondait à la progression du résultat de la société, et que rien ne laissait penser que l'évolution n'aurait pas continué. Il estime qu'il appartenait à l'office recourant de prouver qu'une telle rémunération n'aurait pas pu être assurée à l'avenir. L'intimé partage l'opinion des premiers juges, selon lesquels aucun indice ne permettait de penser que l'entreprise aurait périclité, puisque la demande des services proposés était constante, voire croissante. A son avis, il ne fait aucun doute qu'il aurait perçu une rémunération comparable à celle de ses anciens associés compte tenu de ses qualités entrepreneuriales et de sa force de travail s'il avait poursuivi son activité. L'intimé demande que son revenu sans invalidité soit fixé à 200'499 francs.
5.
Le revenu de l'intimé, qui avait fortement augmenté en 2008 par rapport aux années précédentes, ne constituait pas une rémunération durable mais résultait d'une situation exceptionnelle, ainsi que cela découle des rapports d'enquête économique des 8 juillet 2010 et 16 février 2011 qui retracent l'évolution de ses revenus et que la juridiction cantonale n'a pas pris en considération. En effet, pour l'année 2008, on se trouvait apparemment en présence d'une rémunération rétroactive de résultats non répartis des années antérieures. L'intimé avait d'ailleurs admis qu'il n'aurait pas forcément pu maintenir un revenu annuel de 200'000 fr. sur le long terme. En outre, la masse salariale de l'entreprise avait diminué en 2009, les revenus déclarés des associés actifs avaient nettement baissé (rapport d'enquête du 16 février 2011) et les activités avaient cessé au 31 décembre 2010 (rapport d'entretien entre les parties du 2 mars 2011).
Au regard de ces faits, dont la juridiction aurait dû tenir compte pour apprécier de manière complète et circonstanciée la situation concrète de l'intimé, il apparaît que son dernier salaire avant la survenance de l'atteinte à la santé invalidante était nettement plus élevé que les revenus obtenus jusque là, de sorte qu'il ne pouvait pas à lui seul servir de référence pour le revenu sans invalidité. Les motifs exposés par les premiers juges pour retenir que l'assuré aurait vraisemblablement continué à réaliser un tel salaire apparaissent insoutenables. D'une part, ils reposent sur des considérations générales sur la situation économique et la demande pour des services de surveillance qui seraient "notoirement constante[s]", sans que les éléments faisant douter d'une évolution aussi positive dans la situation concrète de l'assuré (soit la baisse des revenus des associés restants de la société postérieure à 2008 et la cessation de ses activités à fin 2010, aux dires de l'intimé) n'aient été pris en considération. Par ailleurs, les premiers juges se sont référés à la preuve que la continuation de l'exercice de la profession (services de sécurité de personnes, de lieux et de marchandises) par deux des anciens associés de l'intimé leur avait apporté une rémunération substantielle. Or on ignore la nature exacte de l'activité exercée par les deux anciens associés - dont les contrats de travail ont été produits sans précision de leur cahier de charge respectif - auprès d'une société qui n'est pas active dans le domaine de la surveillance. La société en cause a pour but social l'achat, la vente, la fabrication et la distribution de montres et de bijoux (extrait du Registre du commerce du canton de Genève, sous www.zefix.ch), de sorte qu'on ne saurait considérer que l'assuré aurait choisi d'entrer au service d'une société productrice de montres et de bijoux plutôt que de maintenir son activité au sein de la société de surveillance qu'il avait créée. L'activité florissante que le recourant n'aurait pas manqué de développer selon les premiers juges relève donc d'une éventualité qui n'apparaît pas vraisemblable de manière prépondérante, au regard de l'ensemble des faits de la cause.
Comme l'invoque ensuite le recourant, on ne saurait lui reprocher d'avoir procédé à "une dévalorisation des capacités et des revenus de l'intéressé", comme l'a considéré l'autorité cantonale de recours. L'office AI a en effet procédé conformément à la jurisprudence citée (consid. 3.2 supra) en se fondant sur la moyenne des gains réalisés par l'intimé de 2004 à 2008 pour fixer le revenu sans invalidité, en même temps qu'il a mis l'assuré au bénéfice de mesure de réadaptation en vue de rétablir sa capacité de gain.
En conséquence, en s'écartant du revenu sans invalidité fixé par le recourant en tenant compte des variations du salaire de l'intimé, la juridiction cantonale a méconnu les règles jurisprudentielles sur la détermination du salaire sans invalidité, de sorte qu'elle ne saurait être suivie. Pour le reste, la comparaison des revenus effectuée par le recourant, qui a retenu un revenu sans invalidité de 110'338 fr., n'apparaît pas manifestement inexacte, ni contraire au droit. Le taux d'invalidité retenu de 29 % n'ouvre pas le droit à une rente d'invalidité.
6.
L'intimé, qui succombe, supportera les frais de la procédure (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. Le jugement du Tribunal cantonal du canton de Vaud, Cour des assurances sociales, du 11 septembre 2015, est annulé et la décision de l'Office de l'assurance-invalidité pour le canton de Vaud du 15 mai 2014 confirmée.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge de l'intimé.
3.
La cause est renvoyée au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, pour nouvelle décision sur les frais de l'instance cantonale, au regard de l'issue du procès.
4.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 21 juin 2016
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Glanzmann
Le Greffier : Berthoud