Faits :
A.
Par jugement du 23 juin 2016, rendu à la suite de l'opposition formée par X._ contre l'ordonnance pénale du 12 octobre 2015, le Tribunal de police de l'arrondissement de Lausanne a libéré X._ de l'accusation de tentative de contrainte et l'a condamné pour diffamation à une peine pécuniaire de 30 jours-amende, le montant du jour-amende étant fixé à 350 fr., avec sursis durant 2 ans. Le tribunal a pour le surplus renvoyé A._ à agir devant le juge civil et a statué sur les frais de la cause, en mettant une partie de ceux-ci à la charge de X._.
B.
Statuant le 10 novembre 2016, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a admis l'appel interjeté par A._ contre ce jugement et a condamné X._ pour diffamation et tentative de contrainte à une peine pécuniaire de 90 jours-amende, le montant du jour-amende étant fixé à 350 fr., avec sursis durant 2 ans. Elle a en outre mis l'entier des frais de procédure des deux instances cantonales à la charge de X._, qui devait encore payer à A._ une indemnité de 2'048 fr. pour les dépenses obligatoires occasionnées par la procédure d'appel. Le jugement a été confirmé pour le surplus.
En substance, la cour cantonale a retenu les faits suivants.
B.a. En février 2013, X._ et A._, deux hommes d'affaires aguerris, étaient en conflit au sujet du remboursement d'un prêt obligataire de 1'500'000 euros qui avait été accordé en février 2011 et pour une durée de deux ans à la société B._ SA (ci-après: B._), dont X._ était l'administrateur-président, par la société offshore C._ Ltd. (ci-après: C._), représentée par A._. Alors que par courrier du 5 février 2013, C._ avait requis le remboursement du prêt, B._ l'a informée le 21 février 2013 qu'elle ne procéderait pas au remboursement prévu contractuellement, faisant valoir en compensation des prétentions contre C._ et A._ qui auraient été supérieures au montant prêté. Une procédure de recouvrement a dès lors été initiée par C._.
A cette époque, A._ faisait l'objet d'une instruction pénale ouverte le 29 novembre 2011 à la suite de plaintes déposées par plusieurs investisseurs, dont X._, qui avaient acquis des actions de la société chinoise D._ Ltd. qui avaient vu leur cours boursier s'effondrer peu de temps après leur acquisition. Les plaignants reprochaient à A._ de les avoir grugés en leur conseillant ces titres. L'enquête dirigée contre A._ a finalement débouché sur une ordonnance de classement, aucune infraction n'ayant été constatée. Attaqué par X._ notamment, le classement de la procédure a été confirmé successivement par l'autorité de recours et par le Tribunal fédéral (cf. arrêt 6B_244/2015 du 29 septembre 2015).
B.b. Dans ce contexte, le 8 février 2013, à Lausanne, X._ a rencontré E._, administrateur de F._ SA. Evoquant le nom de A._, par ailleurs actionnaire majoritaire de F._ SA au travers de l'une de ses sociétés, X._ a déclaré en substance : "Sais-tu que tu as affaire à un escroc?". Il a encore ajouté dans la discussion que A._ allait "vider la trésorerie de l'entreprise", comme il l'aurait fait avec une société dénommée G._, et qu'il blanchissait de l'argent au travers de ses sociétés offshore.
B.c. Toujours dans ce contexte, le 14 février 2013, à Lausanne, X._ et A._ se sont rencontrés pour une entrevue destinée à résoudre les différends qui avaient surgi entre eux. A cette occasion, X._, qui entendait se faire céder la créance de 1'500'000 euros que la société C._ détenait contre B._, a menacé A._ de recourir à tous les moyens légaux à disposition pour parvenir à ses fins. Les mesures évoquées par X._ incluaient notamment une intervention auprès du Bureau de communication en matière de blanchiment d'argent (MROS) ainsi qu'auprès de l'Autorité fédérale de surveillance des marchés financiers (FINMA), qu'il menaçait d'interpeller pour faire procéder au blocage des comptes des diverses sociétés de A._.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement du 10 novembre 2016. Il conclut, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'il est libéré du chef d'accusation de tentative de contrainte. Subsidiairement, il conclut à l'annulation du jugement, la cause étant renvoyée à l'autorité précédente pour nouvelle décision dans le sens des considérants.

Considérant en droit :
1.
Le Tribunal fédéral est lié par les constatations de fait de la décision entreprise (<ref-law>), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. La notion d'arbitraire a été rappelée récemment dans l'arrêt publié aux <ref-ruling>, auquel on peut se référer. En bref, une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut encore qu'elle soit manifestement insoutenable, et cela non seulement dans sa motivation mais aussi dans son résultat (<ref-ruling> consid. 4.3 p. 380). En matière d'appréciation des preuves et d'établissement des faits, il n'y a arbitraire que lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.3 p. 266 et les références citées). Aux termes de l'<ref-law>, le Tribunal fédéral n'examine la violation des droits fondamentaux ainsi que celles de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par les recourants. Il n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2.4 p. 368).
2.
Le recourant conteste sa condamnation pour tentative de contrainte, en revenant d'une part sur le caractère illicite du moyen de pression utilisé (cf. infra consid. 2.3) et d'autre part sur la perception, par l'intimé, des menaces proférées (cf. infra consid. 2.4).
2.1. Se rend coupable de contrainte selon l'<ref-law> celui qui, en usant de violence envers une personne ou en la menaçant d'un dommage sérieux, ou en l'entravant de quelque autre manière dans sa liberté d'action, l'aura obligée à faire, ne pas faire ou à laisser faire un acte. Alors que la violence consiste dans l'emploi d'une force physique d'une certaine intensité à l'encontre de la victime (<ref-ruling> consid. 3a p. 44), la menace est un moyen de pression psychologique consistant à annoncer un dommage futur dont la réalisation est présentée comme dépendante de la volonté de l'auteur, sans toutefois qu'il soit nécessaire que cette dépendance soit effective (<ref-ruling> consid. 2b p. 448; <ref-ruling> consid. 2a p. 128) ni que l'auteur ait réellement la volonté de réaliser sa menace (<ref-ruling> consid. 2a p. 122). La loi exige un dommage sérieux, c'est-à-dire que la perspective de l'inconvénient présenté comme dépendant de la volonté de l'auteur soit propre à entraver le destinataire dans sa liberté de décision ou d'action. La question doit être tranchée en fonction de critères objectifs, en se plaçant du point de vue d'une personne de sensibilité moyenne (<ref-ruling> consid. 1a p. 325; <ref-ruling> consid. 2a/aa p. 19). Il peut également y avoir contrainte lorsque l'auteur entrave sa victime "de quelque autre manière" dans sa liberté d'action. Cette formule générale doit être interprétée de manière restrictive. N'importe quelle pression de peu d'importance ne suffit pas. Il faut que le moyen de contrainte soit, comme pour la violence ou la menace d'un dommage sérieux, propre à impressionner une personne de sensibilité moyenne et à l'entraver d'une manière substantielle dans sa liberté de décision ou d'action. Il s'agit donc de moyens de contrainte qui, par leur intensité et leur effet, sont analogues à ceux qui sont cités expressément par la loi (<ref-ruling> consid. 3.2.1 p. 440 s.; <ref-ruling> consid. 3.3.1 p. 328).
Selon la jurisprudence, la contrainte n'est contraire au droit que si elle est illicite, soit parce que le moyen utilisé ou le but poursuivi est illicite, soit parce que le moyen est disproportionné pour atteindre le but visé, soit encore parce qu'un moyen conforme au droit utilisé pour atteindre un but légitime constitue au vu des circonstances, un moyen de pression abusif ou contraire aux moeurs (<ref-ruling> consid. 3.2.1 p. 440 s.; <ref-ruling> consid. 3.3.1 p. 328; <ref-ruling> consid. 4.1 p. 218). Ainsi, réclamer le paiement d'une créance ou menacer de déposer une plainte pénale constituent en principe des actes licites. Il en découle que celui qui, étant victime d'une infraction, menace de déposer une plainte pénale afin d'obtenir la réparation du préjudice subi ne commet en principe pas de contrainte au sens de l'<ref-law>. L'illicéité n'est avérée que si le moyen n'est pas dans un rapport raisonnable avec le but visé et constitue un moyen de pression abusif. Cette condition est en particulier réalisée si l'objet de la plainte pénale est sans rapport avec la prestation demandée ou si la menace doit permettre d'obtenir un avantage indu (ATF <ref-ruling> consid. 2a/bb p. 20; <ref-ruling> consid. 2b/cc p. 214). A l'instar du dépôt d'une plainte pénale, la notification d'un commandement de payer est licite lorsqu'on est fondé à réclamer une somme. En revanche, utiliser un tel procédé comme moyen de pression est clairement abusif, donc illicite (cf. <ref-ruling> consid. 3 p. 20; arrêt 6B_8/2017 du 15 août 2017 consid. 2.1).
Lorsque la victime ne se laisse pas intimider et n'adopte pas le comportement voulu par l'auteur, ce dernier est punissable de tentative de contrainte (<ref-law>; <ref-ruling> consid. 2.7 p. 270; <ref-ruling> consid. 2b p. 129). Pour qu'il y ait tentative de contrainte, il faut que l'auteur ait agi avec conscience et volonté, soit au moins qu'il ait accepté l'éventualité que le procédé illicite employé entrave le destinataire dans sa liberté de décision (ATF <ref-ruling> consid. 2c p. 22).
2.2. La cour cantonale a retenu que le recourant avait formulé son intention de faire intervenir le MROS ou la FINMA en vue d'un blocage des comptes de l'intimé et de ses sociétés alors même qu'il savait qu'aucun motif de dénonciation fondé sur des soupçons de blanchiment d'argent n'existait. Ce procédé était illicite en tant qu'il ne constituait pas un moyen de pression acceptable dans le cadre de relations commerciales. Même si l'intimé n'avait pas suffisamment été alarmé pour céder à la menace et renoncer à sa créance, la menace devait objectivement être qualifiée de grave, dès lors qu'un blocage des comptes aurait lourdement entravé les activités des sociétés de l'intimé. Sur le plan subjectif, le recourant avait admis qu'il entendait augmenter la pression sur l'intimé et savait, étant rompu aux affaires, que les procédures dont il menaçait l'intimé n'avaient aucun lien avec l'objet de leur litige. En conséquence, il ne pouvait pas ignorer que le fait d'utiliser la menace d'une telle dénonciation était illicite.
2.3. Le recourant conteste avoir agi de manière illicite. Il soutient qu'il avait des raisons fondées de présumer que l'intimé s'adonnait à des opérations financières frauduleuses, notamment en matière de blanchiment d'argent. A cet égard, il se prévaut du fait qu'au jour de l'entretien entre les parties, soit en février 2013, l'instruction pénale menée par le Ministère public central du canton de Vaud était toujours en cours, le classement n'ayant été prononcé qu'en mai 2014, après la mise en oeuvre de nombreuses mesures d'instruction dans l'intervalle. La plainte ayant donné lieu à cette procédure aurait eu justement pour objectif de démontrer l'existence d'opérations financières frauduleuses. Le recourant fait encore référence à une instruction qui aurait été menée par le Ministère public du canton de Zurich (affaire G._), dans le cadre de laquelle une société dont l'intimé était l'ayant-droit économique (H._) aurait fait l'objet d'une dénonciation en juin 2013 auprès de la FINMA pour soupçons de blanchiment d'argent.
En tant qu'il revient sur la légitimité de ses prétentions à l'égard de l'intimé ainsi que sur le contexte et les motifs du litige qui a donné lieu à la rencontre du 14 février 2013 (cf. supra consid. B.a), le recourant s'en prend à l'établissement des faits retenus par l'autorité précédente, sans exposer en quoi il serait empreint d'arbitraire. Ces développements sont appellatoires et partant irrecevables.
Pour le surplus, la cour cantonale n'a vu aucun rapport entre le litige préexistant entre les parties et les moyens envisagés par le recourant susceptible de fonder la mise en oeuvre des mesures très contraignantes prévues par la législation sur la lutte contre le blanchiment d'argent et partant de justifier le caractère licite d'une telle démarche. Le recourant, qui avait admis avoir cherché à nuire à l'intimé, avait ainsi menacé de solliciter l'intervention du MROS et de la FINMA dans un but totalement étranger à ces institutions, à savoir de faire craindre à un partenaire commercial un dommage important par le blocage de ses comptes afin que ce dernier renonce au recouvrement d'une créance. Au demeurant, l'instruction pénale menée dans le canton de Vaud ne portait pas sur des faits relatifs à un blanchiment d'argent, mais sur les chefs d'accusation d'escroquerie, d'abus de confiance, de gestion déloyale et de manipulation de cours. Quant à celle qui aurait été instruite par le Ministère public du canton de Zurich (affaire G._), elle ne paraît pas directement concerner l'intimé - qui affirme ne pas être impliqué dans ce dossier (cf. procès-verbal d'audition du 25 juin 2013, p. 9 l. 314 ss.) -, l'article de presse évoqué par le recourant ne faisant pas expressément état de faits, ni même de soupçons, reconnus par l'intimé et pouvant fonder une violation à la loi sur le blanchiment d'argent commise par ce dernier ou ses sociétés (cf. dossier cantonal, P. 21). Un éventuel blocage des comptes n'était du reste pas susceptible de lui permettre d'atteindre son objectif, à savoir le renoncement de l'intimé au recouvrement de sa créance. Le recourant n'avait en effet aucun avantage à retirer d'un blocage des comptes, si ce n'est de lui permettre d'exercer un moyen de pression.
2.4. Le recourant conteste ensuite que l'intimé se soit effectivement senti menacé par son discours. Il soutient à cet égard que l'intimé savait avant même l'entretien que le recourant allait émettre des propos du type de ceux qu'il a tenus. L'intimé aurait consenti en toute connaissance de cause à le rencontrer dans le but de trouver une solution transactionnelle, tout en sachant qu'il procéderait vraisemblablement à des tractations ardues au vu des litiges les opposant. De surcroît, le fait que l'intimé se soit présenté au rendez-vous, sans l'assistance d'un conseil, dénoterait également qu'il se sentait à même de gérer seul cette discussion.
Ce faisant, le recourant présente une nouvelle fois sa propre appréciation des preuves en s'écartant de l'état de fait retenu par l'autorité précédente. En l'absence de tout grief d'arbitraire dûment étayé, ses développements sont appellatoires et partant irrecevables dans le recours en matière pénale.
A l'instar de l'appréciation de la cour cantonale, le fait que la discussion soit intervenue entre deux hommes d'affaires aguerris ne saurait annihiler tout effet à la menace proférée. Au contraire, l'intimé, en sa qualité d'homme d'affaires, était d'autant plus conscient des répercussions que pouvait avoir la mise en oeuvre des procédures dont le recourant le menaçait. Le but recherché par cette manoeuvre était clairement d'amener l'intimé à lui faire consentir un arrangement favorable sous la forme de l'abandon d'une importante créance. C'est ainsi sans violer le droit fédéral que la cour cantonale a considéré que la menace de dénoncer l'intimé au MROS et à la FINMA, dans le contexte dans le lequel elle a été proférée, était susceptible d'attenter à la liberté d'action de l'intimé.
3.
Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Le recourant supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 27 octobre 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
Le Greffier : Tinguely