Faits:
A. Au mois de décembre 2002, X._ a acheté, sans permis d'acquisition, une arme à feu et des munitions à l'Armurerie Montheysanne.
Le 17 mars 2005, il a menacé A._ de tuer la mère de celle-ci, soit son ex-épouse B._, précisant qu'il détenait une arme. Cette menace a alarmé les deux femmes, A._ en ayant informé sa mère. Le lendemain, il a encore déclaré au médecin C._ et à l'infirmière D._, soignants au sein de l'hôpital psychiatrique de Malévoz où il se trouvait hospitalisé - qu'il pouvait tuer n'importe lequel d'entre eux.
Par jugement du 21 juin 2006, le Juge du district de Monthey l'a reconnu coupable de menaces (<ref-law>) et de violation de la loi fédérale sur les armes par négligence (art. 33 al. 2 LArm) et l'a condamné à la peine de trois mois d'emprisonnement sous déduction de la détention préventive subie du 19 mars au 24 juin 2005, avec sursis pendant trois ans. Ce jugement prévoyait en outre, à titre de règle de conduite, la soumission à un traitement psychothérapeutique durant le délai d'épreuve (ch. 3 du dispositif).
B. X._ a formé un appel contre ce jugement auprès du Tribunal cantonal du canton du Valais. Il a, dans ce contexte, requis que l'instruction soit complétée par la mise en oeuvre d'une nouvelle expertise psychiatrique et par un rapport, d'un toxicologue ou d'un pharmacologue, précisant les conséquences de l'absorption de médicaments à haute dose durant la nuit du 17 au 18 mars 2005. Par décision du 17 septembre 2007, la Juge de la Cour pénale II du Tribunal cantonal a rejeté cette requête.
Par arrêt du 25 avril 2008, l'appel a été rejeté sur le fond. X._ a été reconnu coupable des mêmes infractions et la même peine lui a été infligée qu'en première instance. La cour cantonale a cependant corrigé d'office le dispositif du jugement de première instance, en ce sens que le traitement ambulatoire constituait une mesure et non une règle de conduite.
En ce qui concerne la mesure, la cour cantonale a retenu, en substance, que dans son rapport du 25 mai 2005, le Dr E._, expert judiciaire, avait posé le diagnostic de trouble mixte de la personnalité avec caractéristiques de développement de personnalité paranoïde (F61.0). Son rapport précisait que ce diagnostic devait être posé, même si l'intéressé ne remplissait en apparence peut-être pas tous les critères stricts, au sens des définitions diagnostiques, d'une personnalité paranoïaque. Selon la cour cantonale, il n'y avait pas de raison de s'écarter de ce diagnostic, confirmé également par F._, psychiatre-psychothérapeute, qui avait suivi l'intéressé durant six mois jusqu'en janvier 2006. Le rapport d'expertise établi le 7 juillet 2005 par le Dr G._ à la demande de l'Office cantonal de l'assurance-invalidité indiquait certes que X._ ne présentait aucun des caractères d'une affection mentale clairement définie et que, de ce fait, il n'était pas possible d'utiliser les catégories cliniques de la classification internationale des troubles mentaux et des troubles du comportement [CIM-10]. Ce dernier rapport était cependant intervenu dans un autre contexte et procédait partiellement d'autres méthodes que l'expertise judiciaire pénale. La cour cantonale a, en particulier, souligné à ce propos que le Dr E._ avait pu apprécier directement la portée et la crédibilité des déclarations de B._, sur lesquelles il fondait son appréciation, alors qu'à l'inverse, le Dr G._ avait précisé que les dires de celle-ci méritaient d'être regardés avec prudence, compte tenu de ce que l'on savait d'elle et de ses rapports avec l'expertisé.
C. X._ forme un recours en matière pénale. Il conclut principalement à la réforme de cet arrêt en ce sens que le chiffre 3 de son dispositif, relatif au traitement ambulatoire, soit annulé et, à titre subsidiaire, au renvoi de la cause à l'une ou l'autre des autorités cantonales pour nouvelle décision au sens des considérants. Il conclut par ailleurs à la réforme de la décision incidente du 17 septembre 2007 en ce sens que les compléments d'expertise requis soient ordonnés.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Le litige porte exclusivement sur deux points. Il s'agit, d'une part, de déterminer si la cour cantonale pouvait refuser de compléter l'instruction sur le plan toxico-pharmacologique et, d'autre part, de savoir si elle pouvait refuser de compléter l'instruction sur le plan psychiatrique. Le recourant fonde en effet exclusivement son grief de violation de l'<ref-law> sur les conclusions du rapport médical qui lui est le plus favorable.
2. En ce qui concerne le complément d'instruction relatif aux aspects toxico-pharmacologiques, la cour cantonale a considéré que ce moyen tendait à déterminer les conséquences sur le comportement du recourant de l'absorption des médicaments qui avait précédé les menaces qui lui étaient reprochées. Il résultait de l'instruction qu'au moment des faits litigieux le recourant était calme, lucide, orienté et ne présentait pas de troubles du discernement, de sorte que le moyen de preuve proposé était sans portée. Au demeurant, le recourant avait limité son appel à la seule question du traitement ambulatoire ordonné par le premier juge. Dans ce contexte, la demande d'un rapport sur les effets des médicaments absorbés était dépourvue de caractère pertinent (décision du 17 septembre 2007, p. 4 s.).
2.1 En vertu de l'art. 42 al. 1 et 2 LTF, le recourant doit, à peine d'irrecevabilité (art. 108 al. 1 let. b et 117 LTF), motiver son recours en exposant succinctement en quoi la décision attaquée viole le droit. Lorsque la décision attaquée comporte plusieurs motivations indépendantes et suffisantes à sceller le sort du grief, il incombe dès lors au recourant, sous peine d'irrecevabilité, de démontrer que chacune d'elles est contraire au droit (<ref-ruling> consid. 6.3 p. 120 s.). Les exigences de motivations sont accrues en ce qui concerne la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal (<ref-law>).
En l'espèce, le recourant tente, dans ses écritures, de démontrer qu'il était victime d'une amnésie au moment des faits, soit lorsqu'il a proféré des menaces, en discutant diverses pièces et déclarations figurant au dossier. Son recours ne contient en revanche aucune discussion quant à l'application de l'<ref-law>/VS aux termes duquel, en principe, seuls les points de la décision attaquée par la déclaration d'appel (ou d'appel joint) sont soumis à réexamen. Il n'entreprend pas non plus de démontrer en quoi les résultats d'une expertise toxico-pharmacologique seraient de nature à influencer la décision de le soumettre à un traitement ambulatoire. Il ne soutient pas, en particulier, que les médicaments en cause auraient pu le rendre momentanément violent ou agressif, mais uniquement qu'ils auraient causé une amnésie. Aussi, faute de tout grief sur le second volet de la motivation de la décision cantonale, le recours en matière pénale est-il irrecevable sur ce premier point.
2.2 Au demeurant, le grief est irrecevable pour un autre motif. En vertu des pouvoirs que lui confère l'<ref-law>/VS, la présidente de la cour cantonale a rejeté, par décision séparée, la demande de complément d'instruction formulée avec la déclaration d'appel. Le recourant n'a pas renouvelé cette réquisition aux débats, alors qu'il en avait la possibilité conformément à l'art. 190 ch. 4 in fine et à l'art. 128 ch. 2, applicable par renvoi de l'<ref-law>/VS. Le moyen est dès lors irrecevable, faute de s'en prendre à une décision de dernière instance cantonale (<ref-law>, a contrario).
3. En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.1; <ref-ruling> consid. 2a p. 41). Concernant plus particulièrement l'appréciation du résultat d'une expertise, le juge n'est en principe pas lié par celui-ci. Mais s'il entend s'en écarter, il doit motiver sa décision et ne saurait, sans motifs déterminants, substituer son appréciation à celle de l'expert, sous peine de verser dans l'arbitraire. En d'autres termes, le juge, qui ne suit pas les conclusions de l'expert, n'enfreint pas l'art. 9 Cst. lorsque des circonstances bien établies viennent en ébranler sérieusement la crédibilité (<ref-ruling> consid. 1c p. 160; <ref-ruling> consid. 8a p. 274). Si les conclusions d'une expertise judiciaire lui apparaissent douteuses sur des points essentiels, il doit recueillir des preuves complémentaires pour tenter de dissiper ses hésitations. A défaut, en se fondant sur une expertise non concluante, il pourrait commettre une appréciation arbitraire des preuves et violer l'art. 9 Cst. (<ref-ruling> consid. 4 p. 57, 118 Ia 144 consid. 1c p. 146).
Lorsque l'autorité cantonale juge l'expertise concluante et en fait sien le résultat, le Tribunal fédéral n'admet le grief d'appréciation arbitraire que si l'expert n'a pas répondu aux questions posées, si ses conclusions sont contradictoires ou si, d'une quelconque autre façon, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même sans connaissances spécifiques, que le juge ne pouvait tout simplement pas les ignorer. Il n'appartient pas au Tribunal fédéral de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite bien plutôt à examiner si l'autorité intimée pouvait, sans arbitraire, se rallier au résultat de l'expertise. Lorsque deux ou plusieurs expertises divergent sur des points importants, celles-ci ne bénéficient plus du crédit qui est attaché aux avis d'experts et qui interdit au juge de s'en écarter sans motifs déterminants (<ref-ruling> consid. 5; v. aussi: Felix Bommer, in Basler Kommentar, Strafrecht I, 2e éd. 2007, <ref-law>, n. 34).
3.1 En l'espèce, les autorités cantonales ont ordonné une expertise judiciaire aux fins de laquelle le Dr E._ a été commis. Par courrier du 5 avril 2005, le Juge d'instruction du Bas-Valais a demandé à l'expert de répondre à six questions. Il s'agissait de savoir si, au moment d'agir, l'intéressé était atteint d'une maladie mentale, de faiblesse d'esprit ou d'une grave altération de la conscience et si une telle atteinte était, le cas échéant, de nature à faire admettre que sa faculté d'apprécier le caractère illicite de ses actes ou de se déterminer d'après cette appréciation lui faisait totalement défaut (question 1). S'il était au moment d'agir, atteint d'un trouble dans sa santé mentale ou dans sa conscience, ou si son développement mental était incomplet. Si le trouble ou le développement éventuellement incomplet était de nature à atténuer chez lui la faculté d'apprécier le caractère illicite de ses actes ou de se déterminer d'après cette appréciation et, le cas échéant, dans quelle mesure (question 2). S'il existait un risque de récidive, qui devait être quantifié (question 3). Il s'agissait ensuite de déterminer l'état psychique actuel de l'intéressé et la nécessité d'un traitement ou d'une mesure et d'indiquer si nécessaire ce qui était préconisé (question 4). L'expert était ensuite appelé à identifier les causes de cet état particulier (question 5) et à fournir tout complément jugé idoine (question 6).
Le rapport du 25 mai 2005, qui comprend une vingtaine de pages, répond précisément à ces questions. Il repose sur différents entretiens, dont quatre, réalisés les 8, 11, 12 avril et 24 mai 2005, avec le recourant, un entretien avec l'ex-épouse de ce dernier, ainsi que différents colloques téléphoniques, avec le médecin traitant du recourant et deux psychiatres-psychothérapeutes. L'expert a, en outre, consulté notamment les rapports d'hospitalisation du recourant de 1995 ainsi que le dossier de la procédure pénale. Ce rapport, bien documenté, fournit tout d'abord une anamnèse fouillée comprenant aussi un historique médical portant en particulier sur les précédents séjours en institution psychiatrique du recourant. L'expert examine ensuite le status mental de ce dernier. Il pose un diagnostic de trouble mixte de la personnalité avec des caractéristiques de développement de personnalité paranoïde et psychopathique. L'expert note que l'expertisé ne remplit « en apparence » peut-être pas tous les critères stricts, au sens des définitions diagnostiques d'une personnalité paranoïaque. Il relève cependant, quelques lignes plus bas, que les critères diagnostics sont un outil et qu'il est des personnalités paranoïaques qui ne remplissent pas tous les critères. Il relève également que les critères énoncés peuvent être un cas de figure parfois caricatural, vers lequel tend à évoluer telle ou telle personne prédisposée à un développement paranoïaque de la personnalité et que tel est précisément le cas du recourant. L'expert fournit, par ailleurs, de nombreuses illustrations, tirées des éléments biographiques du recourant, de ses tendances paranoïdes en mettant en évidence, de manière convaincante, la dissociation existant entre la version de la réalité qu'il brosse de lui-même (un père et un mari plein de bonne volonté et d'égard pour son épouse et ses filles; un homme travailleur et bon employé) - à laquelle correspond un déni de la peur qu'il inspire à ses filles ainsi que des violences sexuelles qu'elles décrivent - et les éléments anamnéstiques recueillis. L'expert répond ensuite aux questions posées, en indiquant, en résumé, qu'il n'y a pas de maladie mentale, de faiblesse d'esprit ou de grave altération de la conscience (réponse à la question 1), mais un développement de personnalité où prédominent surtout des tendances paranoïdes avec quelques caractéristiques psychopathiques, développement de personnalité qui doit être considéré comme un développement mental incomplet, qui conditionne la capacité de se déterminer d'après son appréciation, laquelle est légèrement diminuée (réponse à la question 2). Un risque de récidive est possible, mais ne peut être quantifié (réponse à la question 3). L'intéressé n'est ni alcoolique ni toxicomane. Il n'est pas nécessaire de l'interner, notamment pour prévenir la mise en danger d'autrui. En revanche, un traitement ambulatoire, qui devrait comprendre un suivi régulier et la prescription de psychotropes est nécessaire à cette fin (réponse à la question 4). L'expert renvoie enfin à la discussion du cas en ce qui concerne la question 5 et ne formule pas de remarques complémentaires (question 6).
3.2 Le rapport du Dr G._, a été établi le 7 juillet 2005 à la demande de l'Office cantonal de l'Assurance-invalidité du Valais. Il s'agissait principalement d'établir, sur la base de l'anamnèse et des plaintes et données subjectives de l'assuré, un status clinique ainsi qu'un diagnostic et de fournir une appréciation du cas et un pronostic, afin de déterminer l'influence de l'atteinte à la santé sur la capacité de travail dans l'activité habituelle, respectivement dans l'optique de la réadaptation et d'un changement de profession. L'expert devait également déterminer si une incapacité de travail totale comme monteur-électricien était justifiée d'un point de vue médical, la capacité de travail qui était exigible dans une activité adaptée ainsi que les limitations à observer dans une activité adaptée.
L'expert indique « s'être entouré de toutes les informations disponibles ». Il a par ailleurs procédé à deux consultations médicales, les 28 juin et 5 juillet 2005. L'anamnèse est détaillée et porte tant sur la biographie de l'expertisé que sur ses antécédents pathologiques familiaux et personnels. L'expert retrace les plaintes et données subjectives et établit un status clinique, notamment sur la base de nombreux tests (Thymie: Echelle de dépression adaptée de Carroll, Questionnaire BATE de Bonis, Obsessive Compulsive Thoughts Checklist de Bouvard, Fear Survey Schedule de Wolpe et Lang; tests cognitifs: Figure complexe de Rey, Epreuve de conservation des quantités physiques de Piaget, Epreuve de Bender, Epreuve d'Anticipation de la Sortie Programmée d'une série de jetons). Au plan diagnostic, l'expert conclut que le recourant ne présente aucun des caractères d'une affection mentale « clairement définie » et indique qu'à ses yeux, il n'est pas possible, de ce fait, d'utiliser les catégories cliniques de la Classification internationale des troubles mentaux et des troubles du comportement (CIM-10). Il souligne, dans son appréciation, que l'intéressé se débat depuis des années avec des problèmes d'ordre conjugal et familial, auxquels se sont ajoutés des atteintes à son état physique et des soucis financiers. Dans ce contexte, ses réactions comportementales sont tout à fait compréhensibles sans qu'il soit toujours nécessaire de leur chercher à tout prix une caution psychopathologique. Selon le Dr G._, ces réactions entraient dans le cadre de ce que J. W. Brehm (1966) appelait la « réactance psychologique », ce qui pouvait néanmoins entraîner l'intéressé à adopter des conduites aux conséquences parfois imprévisibles et préjudiciables pour lui-même et pour les autres, dont il porte l'entière responsabilité. Ce médecin soulignait encore qu'à ses yeux, « l'attitude et les dires de l'ex-épouse et de certaines des filles [du recourant] vis-à-vis de ce dernier méritaient d'être regardées avec prudence, étant donné ce que l'on sait d'elles dans leurs rapports avec [lui] ». Le reste du rapport est consacré à la discussion de la capacité de travail de l'expertisé.
3.3 Il convient tout d'abord de relever que ce dernier rapport confirme lui aussi le risque de conduites aux conséquences parfois imprévisibles et préjudiciables pour le recourant et pour les autres (rapport du Dr G._, ch. I.5, p. 16). Ce médecin ne conteste pas non plus la nécessité d'un traitement psychopharmacologique symptomatique et qu'un soutien psychologique plus élaboré pourrait être utile, en relevant tout au plus que cela ne modifierait pas sa capacité de travail, qui doit être considérée comme entière (rapport précité, ch. II.3.1, p. 17). Cela étant, ce praticien diverge essentiellement de l'expert judiciaire en ce qui concerne le diagnostic posé.
Comme l'a relevé à juste titre la cour cantonale, ce rapport a cependant été établi dans un contexte très différent de l'expertise judiciaire et poursuivait également une finalité différente, par d'autres moyens. Il ne s'agissait en effet pas d'établir la responsabilité pénale de l'intéressé et, le cas échéant, de proposer des mesures, mais de déterminer l'influence d'éventuelles affections psychiques sur la capacité de travail. Dans cette perspective, le rapport du Dr G._, établi sur la base de deux consultations, se fonde en grande part sur le dossier médical du recourant et les propres déclarations de ce dernier, ce qui amène le médecin à relativiser dans une mesure importante les déclarations de l'ex-épouse et des filles du recourant. Celles-ci constituent en revanche un élément d'appréciation important pour le Dr E._, qui a approfondi ce point au cours d'un entretien avec l'ex-épouse. Par ailleurs, le Dr G._ n'a pu accéder au dossier pénal en cours, qui constitue un élément central de l'analyse de l'expert judiciaire, qui devait précisément se prononcer sur l'état mental du recourant au moment des faits.
Dans ces conditions, on ne saurait faire grief à la cour cantonale d'être tombée dans l'arbitraire en jugeant que le rapport du médecin de l'assurance-invalidité ne constituait pas un élément suffisant pour remettre en cause la valeur probante de l'expertise judiciaire, dont le diagnostic était en outre confirmé par le Dr F._, psychiatre et psychothérapeute, qui avait pu suivre l'intéressé durant six mois, jusqu'en janvier 2006. Elle n'avait, partant, pas non plus de raison d'ordonner une contre-expertise ou une sur-expertise ou même un simple complément d'expertise, si bien que le grief apparaît infondé tant en ce qu'il est dirigé contre la décision au fond qu'en relation avec la décision refusant de compléter l'instruction, du 17 septembre 2007.
4. Pour le surplus, le recourant ne soutient pas que le tableau clinique, tel qu'il ressort de l'expertise judiciaire, ne justifierait pas un traitement ambulatoire au sens de l'<ref-law> ou qu'une telle mesure ne respecterait pas le principe de proportionnalité posé par l'<ref-law>. Il ne remet pas non plus en question l'appréciation de la cour cantonale, fondée sur l'expertise du Dr E._, selon laquelle le trouble mixte de la personnalité avec des caractéristiques de développement de personnalité paranoïde et psychopatique constitue une anormalité mentale grave. La cour cantonale s'est, par ailleurs, ralliée aux conclusions de l'expert selon lesquelles les menaces de mort proférées les 17 et 18 mars 2005 étaient en relation avec cet état psychique perturbé et un risque de récidive existait, un traitement ambulatoire apparaissant nécessaire pour prévenir la mise en danger d'autrui (arrêt entrepris, consid. 3b/cc, p. 9). Il n'y a pas de raison de s'écarter de cette appréciation, si bien qu'il n'apparaît pas que la décision entreprise, en ordonnant un traitement ambulatoire, violerait le droit fédéral.
5. Le recours est rejeté dans la mesure où il est recevable. Le recourant succombe. Il supporte les frais de la cause (<ref-law>). Il n'y a pas lieu d'allouer des dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais de justice, arrêtés à 2000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour pénale II.
Lausanne, le 10 juillet 2008
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Le Greffier:
Schneider Vallat