Faits:
A.
S._, né en 1973, exerçait la profession de pizzaïolo au sein du restaurant dont il était le propriétaire. Il a développé au fil des années une allergie à la farine qui l'a rendu inapte à exercer son métier.
Le 20 janvier 2006, l'intéressé a déposé une demande de prestations de l'assurance-invalidité tendant à un reclassement dans une nouvelle profession. Par communications des 28 novembre 2006, 17 décembre 2007 et 9 octobre 2009, l'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après: l'office AI) a accepté de prendre en charge une formation intensive en anglais (du 1er novembre 2006 au 31 août 2007) et un reclassement en tant qu'employé de commerce (du 3 septembre 2007 au 31 juillet 2010). Au cours de cette période, l'assuré a bénéficié d'indemnités journalières de l'assurance-invalidité.
Après l'obtention du certificat fédéral de capacité (CFC) d'employé de commerce, l'assuré a souhaité compléter sa formation par un brevet fédéral de spécialiste en finance et comptabilité. Afin de lui permettre d'atteindre un revenu comparable à celui qu'il obtenait dans son activité antérieure, l'office AI lui a accordé, par communication du 29 septembre 2010, la prolongation du reclassement professionnel pour la première année de cette formation, soit du 2 septembre 2010 au 31 juillet 2011, renouvelable en fonction de la réussite de l'année et pour autant que l'assuré trouve dans l'intervalle un emploi dans le domaine commercial. L'office AI a également poursuivi le versement d'indemnités journalières de l'assurance-invalidité.
Interpellé par son nouveau conseiller en réadaptation qui avait repris la gestion de son dossier le 25 mai 2011, l'assuré a indiqué le 7 juillet 2011 que ses recherches d'emploi étaient demeurées jusqu'à ce jour infructueuses.
Après avoir soumis le cas à son juriste, l'office AI a fait parvenir à l'assuré un projet de décision du 14 septembre 2011, aux termes duquel il l'informait de son intention de mettre un terme avec effet au 31 juillet 2011 à la mesure de reclassement et au versement des indemnités journalières, motif pris que la condition - posée à la poursuite de la prise en charge de la formation - de l'obtention d'un emploi au cours de la première année de formation n'avait pas été remplie. Bien que l'intéressé ait annoncé à l'office AI avoir trouvé un emploi d'aide-comptable à 50 % dès le 10 octobre 2011, l'office AI a, par décision du 25 octobre 2011, maintenu sa position, l'obtention d'un travail étant survenue trop tardivement.
B.
Par jugement du 13 décembre 2012, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel a annulé la décision du 25 octobre 2011 et renvoyé le dossier à l'office AI pour nouvelle décision " afin qu'il octroie la prolongation du reclassement professionnel en en déterminant les conditions et qu'il fixe le montant de l'indemnité journalière [...] ".
C.
L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande en substance l'annulation.
S._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1.
Bien que le dispositif de l'acte entrepris renvoie la cause à l'office recourant, il ne s'agit pas d'une décision incidente au sens de l'<ref-law>, dès lors que la juridiction cantonale a statué définitivement sur les points contestés, le renvoi de la cause ne visant qu'à contraindre l'administration à mettre en oeuvre le jugement cantonal. Le recours est par conséquent recevable, puisqu'il est dirigé contre un jugement final (<ref-law>; arrêt 9C_684/2007 du 27 septembre 2007 consid. 1.1, in SVR 2008 IV n° 39 p. 131).
2.
Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). La partie recourante qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> sont réalisées sinon un état de fait divergent ne peut être pris en considération. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
3.
3.1. La juridiction cantonale a jugé qu'il n'y avait pas lieu de suivre le raisonnement de l'office AI ayant conduit à la mise à terme de la mesure de reclassement professionnel. Examinant les conditions posées par l'office AI à la prise en charge de la mesure, elle a constaté en premier lieu que la condition de la réussite de la première année de formation était remplie. S'agissant ensuite de la seconde condition, soit la prise d'un emploi au cours de la première année de formation, il ne semblait pas ressortir que cette condition avait un caractère impératif. Il résultait des pièces du dossier que la prise d'emploi avait été avant tout exigée dans l'optique que l'assuré puisse satisfaire aux conditions d'admission aux examens finaux. Or, il avait été établi au cours de la procédure que l'exigence de trois années d'expérience dans la branche était remplie au vu du parcours de l'assuré. Dans ces conditions, l'office AI ne pouvait mettre un terme au reclassement professionnel octroyé, au motif que le recourant n'avait pas obtenu un emploi dans le délai requis et qu'il ne satisfaisait ainsi pas aux conditions d'admission aux examens du brevet fédéral. Dans la mesure où des indemnités journalières avaient été versées à l'assuré durant le reclassement professionnel dont il avait bénéficié ainsi que durant les prolongations successives accordées et que son incapacité de travail demeurait totale dans son activité habituelle, celui-ci avait droit à la poursuite du versement des indemnités journalières, l'emploi obtenu à mi-temps en qualité d'aide-comptable dès le 10 octobre 2011 justifiant tout au plus une réduction de ces dernières en application de l'<ref-law>.
3.2. L'office recourant reproche à la juridiction cantonale d'avoir procédé à une constatation manifestement inexacte des faits pertinents consécutive à une mauvaise appréciation des preuves et d'avoir violé le droit fédéral, en retenant qu'il n'était pas légitimé à refuser de prolonger les mesures de réadaptation accordées à l'intimé. Il lui fait plus particulièrement grief de s'être écartée du texte clair de la communication du 29 septembre 2010 faisant état de l'obligation pour l'intimé de trouver un emploi avant le 31 juillet 2011 pour en déduire que la réelle condition qu'il avait posée pour pouvoir prétendre à la prolongation de la mesure était de pouvoir être admis aux examens finaux. Par ailleurs, l'intimé ne remplissait pas les conditions pour avoir droit à des indemnités journalières de l'assurance-invalidité, que cela soit sous l'angle de l'<ref-law> ou de l'<ref-law>. En fait, le présent litige posait la question de savoir s'il incombait à l'assurance-invalidité ou à l'assurance-chômage de prendre en charge le droit aux indemnités journalières d'un assuré capable de travailler à plein temps dans une activité adaptée à son état de santé pendant qu'il suit une formation qui ne l'empêcherait pas de mettre à profit cette pleine capacité de travail. Dans la mesure où l'intimé avait obtenu un CFC en juin 2009 à la suite duquel il avait débuté une formation compatible avec l'exercice d'une activité lucrative à plein temps, il lui incombait de s'annoncer auprès de l'assurance-chômage.
4.
La question litigieuse porte en l'espèce sur la question de savoir si l'office recourant était en droit de mettre un terme à ses prestations (reclassement et indemnités journalières).
5.
5.1. Le rôle principal de l'assurance-invalidité consiste à éliminer ou à atténuer au mieux les effets préjudiciables d'une atteinte à la santé sur la capacité de gain de la personne assurée, en privilégiant au premier plan l'objectif de réinsertion dans la vie professionnelle active ou dans le secteur d'activité initial, et au second plan le versement de prestations en espèces (Message du 22 juin 2005 concernant la modification de la loi fédérale sur l'assurance-invalidité [5e révision de l'AI], FF 2005 4215, 4223 ch. 1.1.1.2). L'examen d'un éventuel droit à des prestations de l'assurance-invalidité doit par conséquent procéder d'une démarche au centre de laquelle figure avant tout la valorisation économique des aptitudes résiduelles - fonctionnelles et/ou intellectuelles - de la personne assurée. Les mesures qui peuvent être exigées de la personne assurée doivent être aptes à atténuer les conséquences de l'atteinte à la santé (<ref-ruling> consid. 3.1 p. 208 et la référence).
5.2. Selon l'<ref-law>, la personne assurée a droit au reclassement dans une nouvelle profession si son invalidité rend cette mesure nécessaire et que sa capacité de gain peut ainsi, selon toute vraisemblance, être maintenue ou améliorée.
5.3. Est réputé invalide au sens de l'<ref-law> celui qui n'est pas suffisamment réadapté, l'activité lucrative exercée jusque-là n'étant plus raisonnablement exigible ou ne l'étant plus que partiellement en raison de la forme et de la gravité de l'atteinte à la santé. Le seuil minimum fixé par la jurisprudence pour ouvrir droit à une mesure de reclassement est une diminution de la capacité de gain de 20 % environ (<ref-ruling> consid. 4.2 p. 489 et les références).
5.4. Par reclassement, la jurisprudence entend l'ensemble des mesures de réadaptation de nature professionnelle qui sont nécessaires et suffisantes pour procurer à la personne assurée une possibilité de gain à peu près équivalente à celle que lui offrait son ancienne activité. En règle générale, l'intéressé n'a droit qu'aux mesures nécessaires, propres à atteindre le but de réadaptation visé, mais non pas à celles qui seraient les meilleures dans son cas. En particulier, il ne peut prétendre une formation d'un niveau supérieur à celui de son ancienne activité, sauf si la nature et la gravité de l'invalidité sont telles que seule une formation d'un niveau supérieur permet de mettre à profit d'une manière optimale la capacité de travail à un niveau professionnel plus élevé. On notera aussi que si les préférences de l'intéressé quant au choix du genre de reclassement doivent être prises en considération, elles ne sauraient toutefois jouer un rôle déterminant (<ref-ruling> consid. 4.2 p. 489 et les références).
5.5. Sont réputées nécessaires et appropriées toutes les mesures de réadaptation professionnelle qui contribuent directement à favoriser la réadaptation dans la vie active. L'étendue de ces mesures ne saurait être déterminée de manière abstraite, dès lors qu'elles présupposent un minimum de connaissances et de savoir-faire et que seules entrent en ligne de compte, en vue de l'acquisition d'une formation professionnelle, celles qui peuvent s'articuler sur ce minimum de connaissance. Au contraire, il faut s'en tenir aux circonstances du cas concret. La personne qui peut prétendre au reclassement en raison de son invalidité a droit à la formation complète qui est nécessaire dans son cas, si sa capacité de gain peut ainsi, selon toute vraisemblance, être sauvegardée ou améliorée de manière notable (<ref-ruling> consid. 2a p. 110). Une mesure de reclassement ne saurait être interrompue de façon prématurée, aussi longtemps que le but de réadaptation visé peut, dans les limites de la proportionnalité, encore être atteint (arrêt I 34/95 du 21 juillet 1995 consid. 3c).
5.6. La personne assurée qui s'est vu allouer par l'assurance-invalidité une mesure de reclassement a droit, selon les circonstances, à des mesures supplémentaires de reclassement. Tel est le cas lorsque la formation prise en charge n'est pas de nature à procurer à la personne assurée un revenu satisfaisant et qu'elle doit recourir à des mesures supplémentaires pour obtenir un gain comparable à celui qu'elle obtenait dans son activité antérieure avant la survenance de l'invalidité. Dans ce contexte, le droit à ces mesures ne dépend pas du fait que le seuil minimal requis pour fonder le droit au reclassement soit atteint (arrêt I 131/98 du 23 décembre 1998 consid. 3b, in VSI 2000 p. 29).
6.
6.1. En l'occurrence, l'office recourant a, par communications des 28 novembre 2006, 17 décembre 2007, 9 octobre 2009 et 29 septembre 2010, alloué à l'intimé une mesure de reclassement consistant d'abord en une formation intensive en anglais, puis en une formation en vue de l'obtention d'un certificat fédéral de capacité d'employé de commerce, et enfin en une formation menant au brevet fédéral de spécialiste en finance et comptabilité. Il avait alors considéré, implicitement du moins, que ces mesures étaient appropriées et nécessaires pour lui permettre de recouvrer sa capacité de gain antérieure. Eu égard à l'objet du litige, la présente procédure n'est pas le lieu pour examiner le bien-fondé de l'octroi de ces mesures, ce d'autant que l'office recourant ne prétend nullement qu'il aurait été induit en erreur par des indications erronées ou incomplètes de l'intimé. Dans la mesure où l'office recourant a considéré que l'intimé pouvait prétendre, dans son principe, à une mesure de reclassement en raison de son invalidité, il était tenu de lui octroyer la formation complète et appropriée qui était nécessaire dans son cas. Le fait que l'octroi de cette mesure puisse apparaître, après un examen plus attentif de la situation, n'être pas justifié ou n'avoir pas été consenti en pleine conformité avec le droit fédéral importe désormais peu. Pour des motifs liés au respect du principe de la bonne foi (art. 5 al. 3 et 9 Cst.; <ref-ruling> consid. 5.2 p. 261), l'intimé ne saurait subir les conséquences dommageables d'un comportement principalement imputable à l'office recourant. Dans la mesure où le reclassement n'avait pas - encore - atteint le but de réadaptation initialement visé, il appartenait à l'office recourant de prendre les mesures nécessaires pour y parvenir, notamment en prolongeant la formation complémentaire allouée. Compte tenu des obligations qui lui incombent, l'office recourant n'était pas en droit de mettre prématurément et unilatéralement un terme aux prestations qu'il avait allouées, sans examiner au préalable si le but de réadaptation avait effectivement été atteint (cf. arrêt 9C_576/2010 du 26 avril 2011 consid. 4.2, in SVR 2011 AI n° 74 p. 224).
6.2. Cela précisé, il n'en demeure pas moins que toute personne assurée est soumise à l'obligation de collaborer à la mise en oeuvre des mesures qui lui sont allouées, au risque sinon de voir les prestations être réduites ou refusées temporairement ou définitivement (<ref-law> et 7 al. 2 LAI en corrélation avec l'<ref-law>). L'office recourant ne saurait toutefois se prévaloir en l'espèce de ce que l'intimé n'aurait pas respecté les conditions qui avaient été posées à la poursuite du reclassement. Comme l'a mis en évidence la juridiction cantonale, les indications figurant dans la communication du 29 septembre 2010 étaient sujettes à interprétation. En considérant, sur la base de l'ensemble des éléments figurant au dossier, que la prise d'un emploi semblait avant tout exigée dans le but de satisfaire aux conditions d'admission aux examens finaux de la formation menant au brevet fédéral de spécialiste en finance et comptabilité, les premiers juges n'ont pas procédé à une appréciation arbitraire des faits. Du moins, l'office recourant ne cherche pas à démontrer le caractère manifestement inexact de cette constatation. On ne voit d'ailleurs pas - et l'office recourant ne l'explique pas - en quoi il était impérieux que l'intimé retrouve un emploi au cours de la première année de sa formation complémentaire. Cette exigence ne pouvait en tout cas pas résulter de la sauvegarde des intérêts patrimoniaux de l'assurance-invalidité, puisque, comme le soutient l'office recourant à l'appui de son recours (cf. infra consid. 7), l'intimé ne pouvait prétendre à l'octroi d'indemnités journalières pour la période de prolongation du reclassement professionnel.
6.3. Sur le vu de ce qui précède, il apparaît que l'office recourant ne disposait d'aucun motif pertinent justifiant de mettre un terme à la mesure de reclassement complémentaire qu'il avait allouée par communication du 29 septembre 2010.
7.
7.1. Aux termes de l'<ref-law>, l'assuré a droit à une indemnité journalière pendant l'exécution des mesures de réadaptation prévues à l'<ref-law>, si ces mesures l'empêchent d'exercer une activité lucrative durant trois jours consécutifs au moins, ou s'il présente, dans son activité habituelle, une incapacité de travail de 50 % au moins. Le droit aux indemnités journalières suppose - également en cas d'incapacité de travail d'au moins 50 % - que les mesures de réadaptation soient appliquées pendant au moins trois jours consécutifs (<ref-ruling> consid. 2c p. 17). L'indemnité journalière de l'assurance-invalidité est une prestation accessoire à certaines mesures de réadaptation; elle ne peut être versée que si et tant que des mesures de réadaptation de l'assurance-invalidité sont exécutées (<ref-ruling> consid. 2a p. 88; <ref-ruling> consid. 1a p. 140 et les références). Cette règle n'a cependant pas une portée absolue. En effet, l'<ref-law> (dans sa teneur en vigueur jusqu'au 31 décembre 2003) charge le Conseil fédéral de fixer les conditions auxquelles des indemnités journalières peuvent être allouées pour des jours isolés, pour la durée de l'instruction du cas, pour le temps précédant la réadaptation, pour le placement à l'essai et lors d'une interruption des mesures de réadaptation pour cause de maladie, d'accident ou de maternité. Ainsi, l'assuré qui se soumet à une mesure de réadaptation durant trois jours isolés au moins au cours d'un mois a droit, en vertu de l'<ref-law>, à une indemnité journalière: (a) pour chaque jour de réadaptation durant lequel il est toute la journée empêché d'exercer une activité lucrative par la mesure de réadaptation; (b) pour chaque jour de réadaptation et pour les jours se situant dans l'intervalle s'il présente, dans son activité professionnelle habituelle, une incapacité de travail de 50 % au moins.
7.2. Contrairement à ce qu'a retenu la juridiction cantonale, l'intimé ne remplit pas les conditions pour se voir allouer des indemnités journalières de l'assurance-invalidité durant la période nécessaire à l'accomplissement de sa formation complémentaire. La formation suivie par l'intimé dans le but d'obtenir le brevet fédéral de spécialiste en finance et comptabilité a lieu sur trois ans, par l'intermédiaire de cours donnés en soirée, généralement une à deux fois par semaine et parfois le samedi matin. Dans ces conditions, l'octroi des indemnités journalières n'est possible ni en vertu de l'<ref-law>, l'intimé n'étant pas empêché d'exercer une activité lucrative durant trois jours consécutifs en raison de la mesure de reclassement litigieuse, ni en vertu de l'<ref-law>, l'intimé n'étant pas empêché d'exercer une activité lucrative durant trois jours entiers au cours d'un mois en raison de la mesure de reclassement litigieuse (cf. <ref-ruling>). Il convient plus généralement de constater que le législateur, que ce soit dans la loi elle-même ou dans le cadre de la délégation de compétence législative de l'<ref-law>, n'a pas prévu l'octroi d'indemnités journalières dans les situations où la mesure de reclassement est allouée sous la forme de cours effectués en dehors des heures de travail.
8.
8.1. Sur le vu de ce qui précède, il apparaît que si l'assuré peut prétendre à la poursuite de la prise en charge de ses frais de formation, il ne saurait se voir allouer des indemnités journalières durant la période nécessaire à cette formation.
8.2. Vu l'issue du litige, l'office recourant obtient partiellement gain de cause. Il se justifie de répartir les frais judiciaires à raison de la moitié à la charge de l'office recourant et de la moitié à la charge de l'intimé (<ref-law>). L'office recourant versera à l'intimé des dépens réduits dans la même proportion (<ref-law>).
8.3. L'intimé a produit une note d'honoraires détaillée pour un montant de 3'868 fr. (y compris la taxe à la valeur ajoutée). Ce montant apparaît toutefois excessif compte tenu de la nature du litige, de sorte qu'il convient d'allouer à l'intimé un montant forfaitaire moins élevé (<ref-law>; voir également le règlement sur les dépens alloués à la partie adverse et sur l'indemnité pour la représentation d'office dans les causes portées devant le Tribunal fédéral du 31 mars 2006 [RS 173.110.210.3]).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est partiellement admis. Le jugement du Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, du 13 décembre 2012 est réformé au sens des considérants.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis pour 250 fr. à la charge du recourant et pour 250 fr. à la charge de l'intimé.
3.
Le recourant versera à l'intimé la somme de 1'400 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
La cause est renvoyée au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, pour nouvelle décision sur les frais et les dépens de la procédure antérieure.
5.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des assurances sociales.
Lucerne, le 3 juillet 2013
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
Le Greffier: Piguet