Faits:
A. En 2003, les époux H.X._ et F.X._ ont mandaté l'architecte Y._ en vue de la rénovation d'un chalet dont ils sont propriétaires à Haute-Nendaz. L'architecte a déposé un projet le 7 septembre 2004, que les mandants ont modifié. Par la suite, ceux-ci ont encore commandé des travaux supplémentaires, d'entente avec l'architecte, lequel assurait la direction du chantier. Les entrepreneurs A._ et B._ SA ont notamment pris part à la réalisation.
En juin 2004, l'architecte avait établi un premier devis au montant de 459'858 fr.95. Le 31 mai 2005, N._, collaborateur de l'architecte, a établi un devis au montant de 423'430 fr.20, présenté à Banque Z._ SA qui avait ouvert un compte de construction. Ce devis n'était cependant pas complet parce que certains travaux n'y figuraient pas; en outre, il avait été sciemment sous-évalué, à la demande expresse de H.X._. Le décompte de l'architecte du 8 février 2006 fait état de factures finales au total de 610'001 fr.06, soit une différence de plus de 150'000 fr. par rapport au devis du 31 mai 2005. A dire d'expert, le dépassement de devis correspond au coût des travaux nécessaires à la réalisation du projet, de ses modifications et des commandes supplémentaires passées en cours de chantier.
Seuls certains des travaux supplémentaires ont fait l'objet d'un devis. D'une manière générale, l'évolution des coûts n'a pas été suivie de manière rigoureuse par l'architecte. N._ a considéré qu'il n'avait pas reçu la mission de veiller au strict respect des devis; il a reconnu n'avoir jamais avisé les maîtres de l'ouvrage d'éventuels dépassements et il a précisé n'avoir fait qu'une seule fois, en cours de chantier, le point de la situation des coûts. Selon l'architecte et son employé, le respect du devis n'était pas important pour les maîtres de l'ouvrage, lesquels décidaient de modifications sans se préoccuper de leur coût. H.X._ a ainsi requis et payé directement les services d'un carreleur, sans recourir à l'architecte. II a également commandé l'aménagement d'un mur, de places autour du bâtiment et de places de stationnement sans s'informer des coûts qui en résulteraient; il a rétribué l'entrepreneur de la main à la main, sans factures.
Parmi les travaux supplémentaires, les époux H.X._ et F.X._ ont commandé l'exécution d'une terrasse en pierres naturelles, à réaliser par l'entrepreneur A._. L'architecte ne lui a pas fourni de détails d'exécution précis. Il n'a pas non plus exigé la pose d'une bande de glissement entre l'isolation du chalet et la terrasse, alors que les règles de l'art de construire l'imposaient de toute évidence. Cette omission a entraîné des fissures de l'isolation extérieure et la réparation de ce défaut a causé un dommage de 10'000 fr. aux maîtres de l'ouvrage.
Ces derniers se sont également plaints d'un défaut dans l'écoulement des eaux usées; ce défaut n'est cependant imputable ni à l'architecte ni à l'entreprise B._ SA.
Les maîtres de l'ouvrage avaient convenu avec Y._ d'une rémunération au tarif horaire de 103 fr. hors TVA. La facture finale, datée du 17 mai 2006, fait état de 526 heures de travail, soit 58'294 fr.80 taxe comprise. Des acomptes au total de 14'654 fr. ont été versés.
B. Les entrepreneurs A._ et B._ SA ont obtenu l'inscription provisoire d'une hypothèque légale des artisans et entrepreneurs, à concurrence de 49'978 fr.60 et 8'295 fr.30 respectivement.
Le 10 mai 2006, tous deux ont ouvert action contre les époux H.X._ et F.X._ devant le juge de district compétent; les défendeurs devaient être condamnés au paiement des montants précités pour prix de l'ouvrage livré.
Les défendeurs ont appelé en cause l'architecte Y._. Celui-ci a conclu au rejet des conclusions prises contre lui; il a présenté des conclusions reconventionnelles, contre les défendeurs, tendant au paiement de 43'640 fr.80 pour solde d'honoraires, avec intérêts au taux de 5% par an dès le 18 juin 2006.
Les défendeurs ont conclu au rejet de l'action reconventionnelle.
L'instruction commune de ces causes a notamment comporté deux expertises judiciaires confiées à deux architectes. Ceux-ci ont relevé que la conduite du chantier avait été laborieuse et que la gestion des coûts n'avait pas été maîtrisée. S'agissant plus précisément des honoraires de l'architecte, l'expert Métrailler a estimé que les plans d'exécution n'avaient été élaborés qu'en partie, que les devis détaillés étaient incomplets, que le chantier n'avait pas été surveillé de manière professionnelle et qu'il n'y avait quasiment pas eu d'administration et de décompte final. Sur cette base, l'expert a estimé à 128 le nombre des heures admises pour l'ensemble de l'activité, soit pour les relevés, l'avant-projet et les dossiers de mise à l'enquête (40 heures), pour les plans sommaires d'exécution (40 heures) et pour la surveillance du chantier (48 heures), ce qui justifiait une rémunération totale de 13'184 francs. L'expert Gagliardi n'a pas proposé, lui, une répartition des heures consacrées aux différentes étapes de l'exécution; il a procédé à une ventilation grossière du temps employé. Partant de l'avis de l'expert Métrailler, il a évalué le travail de l'architecte à 20'000 fr. taxes comprises, ce qui correspond à 180 heures.
Après clôture de l'instruction, les causes furent transmises pour jugement à la Ire Cour civile du Tribunal cantonal. Cette autorité s'est prononcée le 20 novembre 2010. Elle a partiellement accueilli les actions de A._ et de B._ SA. Accueillant partiellement l'action principale intentée par les défendeurs à l'appelé en cause Y._, elle a condamné celui-ci à verser un dédommagement de 5'000 fr. avec intérêts au taux de 5% par an dès le 7 juillet 2006. Elle a aussi accueilli partiellement l'action reconventionnelle de l'architecte et condamné les défendeurs à lui payer, à titre de solde d'honoraires, 27'346 fr. avec intérêts au même taux dès le 31 mai 2007.
C. Agissant par la voie du recours en matière civile, les époux H.X._ et F.X._ requièrent le Tribunal fédéral de réformer le jugement en ce sens que l'action reconventionnelle de l'architecte Y._ soit entièrement rejetée.
L'intimé conclut au rejet du recours, dans la mesure où celui-ci est recevable.

Considérant en droit:
1. Le recours est dirigé contre un jugement final (<ref-law>), rendu en matière civile (<ref-law>) et en dernière instance cantonale (<ref-law>). Ses auteurs ont pris part à l'instance précédente et succombé dans leurs conclusions (<ref-law>). Correspondant aux conclusions reconventionnelles de l'intimé, la valeur litigieuse excède le minimum légal de 30'000 fr. (art. 51 al. 1 let. a et 74 al. 1 let. b LTF). Le mémoire de recours a été introduit en temps utile (<ref-law>) et il satisfait aux exigences légales (art. 42 al. 1 à 3 LTF).
Le recours est ouvert pour violation du droit fédéral (<ref-law>). Le Tribunal fédéral applique ce droit d'office, hormis les droits fondamentaux (<ref-law>). Il n'est pas lié par l'argumentation des parties et il apprécie librement la portée juridique des faits; il s'en tient cependant, d'ordinaire, aux questions juridiques que la partie recourante soulève dans la motivation du recours (<ref-law>; <ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 1.4.1 p. 254), et il ne se prononce sur la violation de droits fondamentaux que s'il se trouve saisi d'un grief invoqué et motivé de façon détaillée (<ref-law>; <ref-ruling> consid. 3.2 p. 88; <ref-ruling> consid. 2.2 p. 246; <ref-ruling> consid. 1.4.2). Il est lié par les conclusions des parties (<ref-law>).
Le Tribunal fédéral doit conduire son raisonnement juridique sur la base des faits constatés dans la décision attaquée (<ref-law>); les allégations de fait et les moyens de preuve nouveaux sont en principe irrecevables (<ref-law>). Le tribunal peut compléter ou rectifier même d'office les constatations de fait qui se révèlent manifestement inexactes, c'est-à-dire arbitraires aux termes de l'art. 9 Cst. (ATF <ref-ruling> consid. 1.1.2 p. 252), ou établies en violation du droit (<ref-law>). La partie recourante est autorisée à attaquer des constatations de fait ainsi irrégulières si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Cette partie ne peut toutefois pas se borner à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; elle doit plutôt indiquer de façon précise en quoi ces constatations sont contraires au droit ou entachées d'une erreur indiscutable, et une critique qui ne satisfait pas à cette exigence est irrecevable (ATF <ref-ruling> consid. 1.4.3 p. 254; voir aussi <ref-ruling> consid. 2.8 p. 494; <ref-ruling> consid. 1.3 p. 261/262).
2. Les recourants tiennent les constatations de fait de la Cour civile pour incomplètes. L'autorité aurait dû constater, prétendument, que l'intimé a établi un premier dossier d'enquête publique non conforme au règlement communal, et elle aurait aussi dû constater une convention de fiducie passée entre eux, l'intimé et la banque, obligeant l'intimé à informer la banque de tout dépassement des coûts. Ils omettent de désigner précisément les pièces du dossier, les témoignages ou, dans leurs mémoires, leurs allégués non contestés par les adverses parties que l'autorité aurait éventuellement méconnus. Parce que leur argumentation est inapte à mettre en évidence un vice indiscutable dans la constatation des faits déterminants, elle ne satisfait pas aux exigences précitées relatives à l'<ref-law> et elle est donc irrecevable.
Les recourants critiquent l'appréciation du témoignage de l'employé N._. Ils affirment que le témoignage « se trouve totalement en contradiction avec les pièces du dossier » mais ils omettent, là aussi, de désigner précisément ces pièces. Dans leur appréciation du témoignage, les précédents juges soulignent que lorsqu'il a déposé, le témoin n'avait plus de relations professionnelles avec l'architecte et que les défendeurs n'ont pas contesté ses déclarations lors de l'interrogatoire. Devant le Tribunal fédéral, les recourants se bornent à opposer leur propre appréciation du témoignage, ce qui n'est pas non plus compatible avec lesdites exigences.
3. Il est incontesté que les prestations de l'intimé relatives à la direction des travaux de construction étaient soumises aux règles du mandat selon l'<ref-law> (<ref-ruling> consid. 5.1 p. 363). Il est également incontesté qu'une rémunération a été convenue, de sorte que celle-ci est en principe due conformément à l'<ref-law>.
La rémunération du mandataire peut être réduite en cas d'exécution défectueuse du mandat; elle peut même être refusée lorsque les prestations du mandataire se sont révélées totalement inutilisables, ou lorsque cette rémunération constitue elle-même un dommage consécutif à l'exécution défectueuse. La créance du mandataire en paiement de sa rémunération n'exclut pas une dette de dommages-intérêts consécutive à l'exécution défectueuse du mandat; le cas échéant, ces deux prétentions peuvent être compensées (<ref-ruling> consid. 3 et 4).
Sur la base de l'<ref-law> concernant la responsabilité du mandataire, la Cour civile a alloué aux recourants un dédommagement au montant de 5'000 fr. à la charge de l'intimé. Ce point du jugement est incontesté - les conclusions prises devant le Tribunal fédéral ne portent d'ailleurs pas sur l'action principale intentée à l'intimé - et il n'y a donc pas lieu d'y revenir. Le montant des honoraires est seul critiqué; les recourants se plaignent d'une réduction insuffisante de cette rémunération.
4. La Cour civile juge qu'en dépit d'une conduite du chantier « laborieuse », cette prestation de l'architecte n'a pas été déficiente au point de justifier une réduction des honoraires. En revanche, selon la Cour, l'intimé a violé son devoir de diligence en omettant d'informer clairement les maîtres de l'ouvrage des conséquences financières des travaux. La gravité de sa faute doit cependant être appréciée en tenant compte du comportement et des attentes des mandants. Sur ce point précis, les juges estiment que le comportement des mandants n'était pas exempt de reproche et ils relèvent les éléments suivants à l'appui de cette appréciation: l'estimation des coûts présentée à la banque a été modifiée à la baisse sur demande du maître de l'ouvrage; celui-ci a confié du travail à des tiers et n'a pas recouru aux services de l'architecte pour le paiement effectué de la main à la main; cette façon de procéder n'a pu influer que négativement sur la perception, par l'architecte, de l'importance de la maîtrise de coûts; enfin, en commandant tout au long du chantier des travaux supplémentaires, les maîtres de l'ouvrage ne pouvaient pas ignorer que les coûts allaient croître. Pour chiffrer la réduction des honoraires, les juges se sont référés aux expertises judiciaires mais ils considèrent que l'appréciation des experts a été faussée: ceux-ci ont mis sur le compte de l'architecte des manquements qui ne lui étaient finalement pas imputables, en particulier ceux en rapport avec l'écoulement des eaux usées, d'une part, et les travaux intérieurs d'autre part. Les juges ont également constaté que l'expert Métrailler proposait de faire supporter partiellement à l'architecte la réfection de la terrasse, mais sans préciser si cet élément était pris en considération dans la réduction des honoraires. Au vu de l'ensemble de ces éléments, en particulier du degré de diligence que l'on pouvait attendre de l'architecte, du comportement des défendeurs et de l'absence de tout dommage effectif résultant du dépassement de devis, la Cour réduit les honoraires d'un peu plus d'un quart et elle les ramène à 42'000 fr. taxes comprises. Elle constate que le nombre des heures consacrées au mandat n'a pas été mis en doute par les experts.
5. Les recourants développent une critique qui est irrecevable en tant qu'elle ne repose pas sur les constatations de fait du jugement attaqué. Ainsi, ces plaideurs énumèrent vainement les manquements qu'ils imputent à l'architecte dans la conduite du chantier, sans se référer auxdites constatations. Pour le surplus, ils reprochent à la Cour civile de n'avoir pas suffisamment pris en considération la déficience de la gestion générale des coûts et les lacunes de l'information des maîtres de l'ouvrage. Par là, ils contestent l'appréciation des expertises par la Cour.
Selon la jurisprudence relative à l'art. 9 Cst., le juge apprécie librement la force probante d'une expertise. Dans le domaine des connaissances professionnelles particulières de l'expert, il ne peut toutefois s'écarter de son opinion que pour des motifs importants qu'il lui incombe d'indiquer, par exemple lorsque le rapport d'expertise présente des contradictions ou attribue un sens ou une portée inexacts aux documents et déclarations auxquels il se réfère (<ref-ruling> consid. 3a p. 130); le juge est même tenu de recueillir des preuves complémentaires lorsque les conclusions de l'expertise judiciaire se révèlent douteuses sur des points essentiels (<ref-ruling> consid. 3.2 p. 547/548; <ref-ruling> consid. 5.4.2 p. 345/346; <ref-ruling> consid. 2 p. 86 in medio). L'expert doit limiter son examen aux points de fait et la résolution des questions de droit ressortit exclusivement au juge (ATF <ref-ruling> consid. 5.4.1 p. 345; <ref-ruling> consid. 3a p. 432 in initio).
En l'espèce, la Cour civile a décidé de s'écarter des conclusions des experts au motif que ceux-ci ont mis sur le compte de l'intimé des manquements qui ne lui étaient finalement pas imputables, parce que la seule violation du devoir de diligence à prendre en considération porte sur la gestion générale des coûts et les lacunes dans l'information des maîtres de l'ouvrage. Or, les recourants ne critiquent pas cet élément de la motivation et ils ne contestent pas non plus l'exclusion de responsabilité de l'intimé pour ce qui concerne les défauts invoqués en relation avec l'écoulement des eaux usées ou les travaux intérieurs du chalet. Les juges ont aussi relevé que l'un des experts n'a pas indiqué si la prise en charge par l'architecte des frais de réfection de la terrasse était comprise dans la réduction de ses honoraires, tandis que le second n'a pas abordé du tout cette question. Là encore, cet élément de la motivation n'est pas critiqué. Enfin, les juges ont considéré que, s'agissant du dépassement de devis, le comportement des recourants n'était pas exempt de reproches et que, de surcroît, aucun dommage effectif n'est résulté de ce dépassement. Au vu de ces éléments qui ne pouvaient pas être connus des experts, qui n'avaient pas été pris en considération par eux ou qui relevaient de l'appréciation juridique, les juges pouvaient sans arbitraire procéder à une appréciation différente du taux de réduction des honoraires de l'architecte. Contrairement aux expertises dont les juges ont voulu s'écarter, cette réduction ne s'est pas exprimée par une estimation des heures justifiées par l'exécution correcte du mandat, mais par une réduction proportionnelle (d'un peu plus d'un quart) des honoraires réclamés. Cette manière de procéder, adéquate en l'espèce parce que le nombre des heures consacrées au mandat n'était pas spécifiquement contesté, est conforme au droit fédéral et fait appel au pouvoir d'appréciation (Pierre Tercier, Les contrats spéciaux, 4e éd., 2009, p. 789 n° 5256).
6. Le Tribunal fédéral ne contrôle qu'avec réserve une décision d'équité prise en dernière instance cantonale. Il intervient lorsque la décision s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou encore lorsqu'elle ignore des éléments qui auraient absolument dû être pris en considération; en outre, le Tribunal fédéral redresse les décisions rendues en vertu d'un pouvoir d'appréciation lorsqu'elles aboutissent à un résultat manifestement injuste ou à une iniquité choquante (<ref-ruling> consid. 2 p. 123; <ref-ruling> consid. 5.4 p. 211; <ref-ruling> consid. 2 p. 111/112).
Les recourants n'exposent pas en quoi la Cour aurait excédé son pouvoir d'appréciation en réduisant d'un peu plus d'un quart, seulement, les honoraires de l'intimé. Ils ne tentent pas non plus de démontrer que les éléments relevés à l'appui du jugement n'auraient pas dû être pris en considération. Certains de ces éléments relèvent de l'appréciation juridique et ils échappent donc à l'évaluation des experts; les autres constituent indubitablement des facteurs importants d'atténuation des conclusions des experts. Quant à la simple comparaison arithmétique entre les conclusions des experts (13'184 fr. pour le premier ; 20'000 fr. pour le second) et celles de la cour cantonale (42'000 fr.), elle n'est pas déterminante et elle ne saurait consacrer par elle-même une iniquité choquante. Tel serait éventuellement le cas si la Cour s'était péremptoirement et sans aucune justification objective écartée des conclusions des experts. Or, comme on l'a vu, les juges ont au contraire pris la peine d'énumérer en détail tous les éléments qui devaient entrer en considération dans leur appréciation globale, et ces éléments leur permettaient, sans verser dans l'arbitraire, de limiter à un quart la réduction des honoraires de l'intimé.
7. Le recours se révèle privé de fondement, dans la mesure où les griefs présentés sont recevables. A titre de parties qui succombent, ses auteurs doivent acquitter l'émolument à percevoir par le Tribunal fédéral et les dépens auxquels leur adverse partie peut prétendre.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les recourants acquitteront un émolument judiciaire de 4'000 francs.
3. Les recourants verseront une indemnité de 5'000 fr. à l'intimé, solidairement entre eux, à titre de dépens.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais.
Lausanne, le 10 mai 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La présidente: Le greffier:
Klett Thélin