Faits:
A. Le 24 septembre 2002, Y._ a requis l'autorisation d'assainir une étable sise sur la parcelle n° 7267 de la commune d'Ayent, en zone à bâtir. Ce projet comportait une rénovation partielle du bâtiment central et de ses annexes, ainsi que la construction d'une fosse à purin et d'un enclos pour la stabulation libre du bétail.
Le 2 juillet 2003, le Conseil d'Etat du canton du Valais a approuvé ce projet moyennant diverses réserves, charges et conditions et écarté les oppositions formées par plusieurs voisins.
Par arrêt du 12 février 2004, la Cour de droit public du Tribunal cantonal valaisan (ci-après: le Tribunal cantonal ou la cour cantonale) a admis le recours des opposants et annulé l'arrêté du Conseil d'Etat en tant qu'il délivrait l'autorisation de construire. Le Tribunal fédéral a rejeté le recours de droit public et déclaré sans objet le recours de droit administratif déposés contre cet arrêt par Y._ (causes 1A.107/2004 et 1P.251/2004).
Le 28 avril 2006, Y._ a soumis à l'enquête publique la construction d'une fosse à purin et la pose d'une barrière métallique de sécurité sur le mur de soutènement existant.
Par décision du 18 novembre 2011, le Service cantonal de l'agriculture a approuvé le projet sous diverses réserves, charges et conditions et écarté les oppositions des voisins.
Le Tribunal cantonal a rejeté le recours interjeté par X._ contre cette décision au terme d'un arrêt rendu le 5 avril 2012.
B. Agissant par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, X._ demande au Tribunal fédéral d'annuler cet arrêt et de renvoyer le dossier à la cour cantonale pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal propose de déclarer le recours irrecevable, subsidiairement de le rejeter. Le Service de l'agriculture se réfère à sa décision, à sa réponse au recours au Tribunal cantonal et à l'arrêt attaqué. Y._ et la Commune d'Ayent n'ont pas déposé d'observations.
Par ordonnance présidentielle du 11 juin 2012, l'effet suspensif a été accordé au recours.

Considérant en droit:
1. La voie du recours en matière de droit public au sens des art. 82 ss LTF est seule ouverte contre les décisions rendues en dernière instance cantonale dans le domaine du droit public de l'aménagement du territoire et des constructions. Le recours constitutionnel subsidiaire est de ce fait irrecevable (cf. art. 113 LTF).
2. Le recourant reproche tout d'abord à la cour cantonale d'avoir retenu à tort que le projet litigieux consistait à transformer une fosse à purin existante. L'inspection locale dont il a vainement requis la tenue aurait permis de constater l'inexistence d'une telle installation et d'éviter ainsi pareille erreur. Il dénonce à ce propos un établissement inexact des faits et une violation de son droit d'être entendu garanti par l'art. 29 al. 2 Cst.
Conformément à l'art. 97 al. 1 LTF, le recourant ne peut critiquer les constatations de fait de l'arrêt attaqué que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.1.2 p. 62) - ou en violation du droit au sens de l'art. 95 LTF, et si la correction du vice soulevé est susceptible d'influer sur le sort de la cause. Il lui appartient de démontrer que ces conditions sont réalisées par une argumentation répondant aux exigences de motivation de l'art. 106 al. 2 LTF (cf. <ref-ruling> consid. 1.4.3 p. 254).
La question de savoir si les faits ont été constatés de manière inexacte sur le point soulevé par le recourant peut rester indécise. Celui-ci ne cherche en effet pas à établir en quoi le fait que la fosse à purin serait une construction nouvelle et non une installation existante transformée aurait une incidence sur la motivation retenue par la cour cantonale pour conclure que l'étable de l'intimé pouvait être maintenue à son emplacement actuel et le permis de construire litigieux délivré. Il se borne à affirmer que "si la constatation fixée dans le jugement avait été précisément celle de l'inexistence actuelle de la fosse à purin, le Tribunal cantonal aurait été dans l'incapacité absolue de soutenir que le Service de l'agriculture pouvait autoriser l'exécution d'une construction inexistante". Pareille argumentation ne répond pas aux exigences de motivation requises et ne permet pas de considérer que la correction de l'état de fait sur le point évoqué par le recourant pourrait aboutir à un autre résultat, comme l'exige l'art. 97 al. 1 LTF.
Si l'on comprend bien le recourant, l'inexactitude alléguée dans l'établissement des faits aurait une incidence sur la procédure suivie. S'agissant d'une nouvelle construction en zone à bâtir, il incombait au Conseil communal d'Ayent et non pas au Service cantonal de l'agriculture de statuer sur la demande d'autorisation de construire. La Cour de droit public a tenu la compétence de l'autorité cantonale pour établie sur la base de l'art. 23 al. 2 de l'ordonnance valaisanne sur les constructions, qui exclut de l'autorisation de bâtir et des prérogatives du Conseil communal les mesures en faveur de l'amélioration des structures agricoles telles que les constructions et les assainissements de bâtiments ruraux. Le fait jugé décisif pour conclure à l'application de la législation spéciale sur l'agriculture et à la compétence de l'autorité cantonale était qu'une aide financière du canton était requise pour la fosse à purin. Une telle aide aurait été demandée tant pour une construction nouvelle que pour la transformation ou la rénovation d'une installation existante. L'inexactitude relevée par le recourant dans les faits constatés dans l'arrêt attaqué n'était donc pas de nature à influer sur la procédure suivie et, partant, à justifier l'annulation de l'arrêt attaqué pour ce motif. Le recourant se contente au surplus d'affirmer que la compétence décisionnelle relèverait des autorités communales selon la loi valaisanne sur les constructions, sans chercher à démontrer par une argumentation répondant aux exigences de l'art. 106 al. 2 LTF en quoi l'interprétation faite du droit cantonal pour conclure à la compétence du Service de l'agriculture serait arbitraire ou d'une autre manière contraire au droit. Sur ce point également, le recours est insuffisamment motivé et doit être déclaré irrecevable.
Enfin, le refus du Tribunal cantonal de se rendre sur place n'emporte aucune violation du droit d'être entendu du recourant. L'art. 29 al. 2 Cst., seul invoqué en l'espèce, ne confère aux parties aucun droit à la mise en oeuvre d'une inspection locale. Le refus de procéder à une telle mesure d'instruction ne viole leur droit d'être entendues que si l'appréciation anticipée de la pertinence de ce moyen de preuve est entachée d'arbitraire (cf. <ref-ruling> consid. 2.1 p. 429). En l'espèce, la cour cantonale pouvait de manière soutenable admettre que les photographies des lieux versées au dossier rendaient superflu un nouveau transport sur place. Le fait qu'elle ait peut-être constaté de manière inexacte la situation existante en raison d'une indication erronée des plans mis à l'enquête et que cette inexactitude aurait pu être évitée par une visite des lieux ne permet pas de tenir a posteriori pour arbitraire le refus de procéder à une telle mesure d'instruction.
3. Le recourant déclare enfin maintenir l'intégralité de l'argumentation développée dans le cadre du premier projet d'assainissement du rural à bovins et invite le Tribunal fédéral à se référer à l'arrêt qu'il a rendu précédemment dans la même cause. Il soutient que le Tribunal cantonal aurait refusé de se pencher sur cette argumentation et se serait écarté indûment du premier arrêt rendu dans lequel il avait retenu que le maintien de l'exploitation de l'intimé était incompatible avec les exigences de la zone à bâtir, ce qui constituerait une violation supplémentaire de son droit d'être entendu.
Ces critiques sont infondées. La cour cantonale a en effet considéré que le maintien en bloc d'arguments développés dans des écritures antérieures ne valait pas motivation au sens de l'art. 47 al. 2 de la loi cantonale sur la procédure et la juridiction administratives. Elle a constaté que le recourant ne contestait pas l'analyse de la situation faite par le Service cantonal de la protection de l'environnement dans son avis du 23 février 2006 selon laquelle il était possible, sous certaines conditions, de réduire les nuisances de l'exploitation agricole de l'intimé à un niveau acceptable, sans qu'un déplacement de celle-ci ne soit nécessaire. La cour cantonale a donc expliqué les raisons pour lesquelles elle ne s'est pas prononcée sur l'argumentation développée par le recourant dans le cadre du premier projet d'assainissement du rural à bovins. Elle a en outre examiné la question de la compatibilité du maintien de l'étable à son emplacement actuel au regard du droit fédéral pertinent en se ralliant à l'avis exprimé sur ce point par le Service cantonal de la protection de l'environnement. Le grief tiré d'un déni de justice est donc infondé.
Pour répondre aux exigences de motivation déduites des art. 42 al. 2 et 106 al. 2 LTF, le recourant devait impérativement expliquer en quoi l'arrêt attaqué violait le droit fédéral sur ces différents points. Il ne pouvait se borner à renvoyer aux arguments qu'il a fait valoir dans des écritures présentées au cours d'une précédente procédure portant sur un projet plus étendu et à inviter la cour de céans à se référer à l'arrêt qu'elle a rendu le 21 octobre 2004. Selon la jurisprudence relative à l'art. 42 al. 1 LTF, la motivation doit en effet être contenue dans l'acte de recours et le recourant ne peut se contenter de renvoyer à de précédentes écritures, à peine d'irrecevabilité (arrêt 4A_25/2009 du 16 février 2009 consid. 3.1 et les références citées).
Enfin, contrairement à ce qu'affirme le recourant, la question du maintien du rural à bovins à son emplacement actuel en zone à bâtir ou de son déplacement en zone agricole n'a pas été définitivement tranchée, que ce soit par le Tribunal cantonal dans son arrêt du 12 février 2004 ou par le Tribunal fédéral dans son arrêt du 21 octobre 2004. Dans l'arrêt précité, la cour cantonale s'est bornée à constater que l'autorité intimée avait commis un déni de justice formel en omettant d'examiner le projet de Y._ sous l'angle du droit de la protection de l'environnement et que la question du déplacement de l'exploitation existante dans l'une ou l'autre des zones agricoles du territoire communal restait posée. Elle ne s'est pas prononcée de manière définitive à ce sujet, ce que la cour de céans a relevé dans son propre arrêt en précisant que les considérations émises à ce propos par la Cour de droit public ne constituaient qu'un obiter dictum.
4. Le recours en matière de droit public doit être rejeté dans la mesure où il est recevable, aux frais du recourant qui succombe (art. 65 et 66 al. 2 LTF). Il n'y a pas lieu à l'allocation de dépens.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Il n'est pas alloué de dépens.
5. Le présent arrêt est communiqué aux parties, à la Commune d'Ayent ainsi qu'au Service de l'agriculture et à la Cour de droit public du Tribunal cantonal du canton du Valais.
Lausanne, le 28 août 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Aemisegger
Le Greffier: Parmelin