Faits:
A. Dans le cadre du projet de contournement routier de la ville de A._, les communes de A._ et alentours se sont engagées à mettre en place un réseau urbain performant de transports publics. Les cinq communes concernées (A._, B._, C._, D._ et E._) ont constitué dans ce but une association de communes, du nom de Y._ (ci-après: l'Association Y._), dont les statuts ont été approuvés par les autorités législatives de ces communes entre le 26 novembre et le 18 décembre 2007.
Dans le domaine des transports, l'Association Y._ a décidé, en application de son "Projet d'agglomération de A._", la création de deux nouvelles lignes de transport par bus desservant les liaisons F._ - A._ - C._ et B._ - A._ - E._, dont elle a confié la mise en place à la société Transports Z._ SA (ci-après: les TZ) qui bénéficiait déjà d'une concession de transport pour quatre lignes reprises par le réseau Y._. Les TZ ont requis et obtenu de l'Office fédéral des transports une extension de leur concession pour les deux nouvelles lignes à partir du 14 décembre 2009 et ce pour une durée de dix ans.
Répondant à l'intervention de X._ auprès de la commune de A._ du 21 septembre 2009 au sujet du mode d'attribution du marché des transports publics de l'Association Y._, cette dernière a indiqué le 9 octobre 2009 que le marché avait été attribué de gré à gré et que la législation sur les marchés publics n'était pas applicable.
B. Le 12 octobre 2009, X._ a recouru au Tribunal cantonal du canton de Fribourg (ci-après: le Tribunal cantonal) contre l'attribution du marché en cause aux TZ, en requérant que son recours ait pour effet de suspendre la procédure d'adjudication. Cette écriture a été transmise comme objet de sa compétence au Préfet de la Gruyère puis, celui-ci s'étant récusé, au Préfet de la Veveyse. Ce dernier a déclaré le recours irrecevable, par décision du 3 décembre 2009, au motif qu'il était fondé sur une législation non applicable, à savoir celle en matière de marchés publics à laquelle l'attribution du service de transport en cause n'était pas soumise.
Saisi d'un recours dirigé contre la décision du Préfet de la Veveyse, le Président de la IIe Cour administrative du Tribunal cantonal l'a déclaré irrecevable, par décision du 18 mai 2011, en raison du défaut de la qualité pour agir de X._. Il a considéré qu'à supposer que, comme le prétendait ce dernier, l'Association Y._ ait commis une irrégularité en attribuant le marché litigieux de gré à gré, X._ n'aurait eu aucune chance d'obtenir celui-ci à l'issue d'une procédure ouverte d'adjudication, dès lors qu'il ne disposait pas d'une entreprise de transport susceptible d'entrer en considération pour l'exploitation du réseau de transports publics de l'agglomération de A._.
C. Agissant par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, X._ demande au Tribunal fédéral, sous suite de frais et dépens pour les instances cantonales et fédérale, de dire que l'adjudication de l'exploitation du réseau de transports publics de l'agglomération de A._ est soumise aux règles sur les marchés publics et de constater l'illicéité du contrat passé entre l'Association Y._ et les TZ. Il se plaint d'une violation des art. 76 et 100 al. 1 let. a du Code de procédure et de juridiction administrative du canton de Fribourg du 23 mai 1999 (CPJA; RS/FR 150.1) et de l'accord intercantonal sur les marchés publics du 25 novembre 1994/15 mars 2001 (AIMP; RO 2003 196), ainsi que d'une violation du droit à l'égalité de traitement (art. 8 Cst.), du droit à la liberté économique (art. 27 Cst.), du droit d'être entendu (art. 29 Cst.) et du droit à un tribunal indépendant et impartial (art. 6 par. 1 CEDH).
Le Tribunal cantonal propose de rejeter le recours en renvoyant aux considérants de l'arrêt attaqué. Les TZ et l'Association Y._ concluent, sous suite de frais et dépens, au rejet du recours en matière de droit public et du recours constitutionnel subsidiaire, dans la mesure de leur recevabilité. Le Préfet de la Veveyse renonce à se déterminer.
Dans leurs observations respectives des 3, 15 et 21 novembre 2011, X._, l'Association Y._ et les TZ ont maintenu leurs conclusions.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF). Il contrôle donc librement la recevabilité des recours qui lui sont soumis (ATF 136 I 43 consid. 1 p. 43; 136 II 101 consid. 1 p. 103).
1.1 La décision attaquée déclare irrecevable le recours déposé à l'encontre de la décision du Préfet de la Veveyse du 3 décembre 2009, au motif que le recourant, qui soutient que l'Association Y._ aurait dû soumettre l'adjudication litigieuse aux règles sur les marchés publics, n'aurait eu aucune chance d'obtenir le marché en question à l'issue d'une procédure ouverte, dès lors qu'il ne disposait pas de moyens suffisants pour répondre aux besoins de l'Association Y._. Est donc litigieuse la question de savoir si l'autorité précédente a considéré à bon droit que le recourant ne disposait pas de la qualité pour agir et il convient d'examiner si elle doit être résolue dans le cadre du recours en matière de droit public ou du recours constitutionnel subsidiaire.
1.2 La cause relève du droit des marchés publics (cf. art. 82 let. a et 83 let. f LTF). La décision attaquée émane d'un Tribunal supérieur, statuant en dernière instance cantonale, sans qu'aucun recours au Tribunal administratif fédéral ne soit ouvert (cf. art. 86 al. 1 let. d et al. 2 LTF) et constitue une décision finale (cf. art. 90 LTF). Elle peut donc, en principe, faire l'objet d'un recours en matière de droit public, à condition qu'elle ne tombe pas sous le coup de l'une des exceptions prévues à l'art. 83 LTF.
1.3 Selon l'art. 83 let. f LTF, le recours en matière de droit public n'est recevable contre les décisions en matière de marchés publics qu'à la double condition que la valeur du mandat à attribuer soit supérieure ou égale aux seuils déterminants de la loi fédérale du 16 décembre 1994 sur les marchés publics (LMP; RS 172.56.1) ou de l'accord du 21 juin 1999 entre la Confédération suisse et la Communauté européenne sur certains aspects relatifs aux marchés publics (RS 0.172.052.68) et que la décision attaquée soulève une question juridique de principe (cf. ATF 134 II 192 consid. 1.2 p. 194 s.). Il incombe à la partie recourante, sous peine d'irrecevabilité, de démontrer la réalisation de ces deux conditions cumulatives (cf. art. 42 al. 2 LTF; ATF 133 II 396 consid. 2.2 p. 398 s.).
1.3.1 En l'espèce, les parties s'accordent à dire que la valeur du marché litigieux représente approximativement 4 millions de francs, de sorte que le seuil prévu par l'art. 6 LMP est clairement dépassé.
1.3.2 Il reste à examiner si le recourant soulève une question juridique de principe.
L'existence d'une telle question s'apprécie en fonction du contenu de l'objet litigieux soumis au Tribunal fédéral et doit n'être admise que de manière restrictive. Ainsi, lorsque le point soulevé ne concerne que l'application de principes jurisprudentiels à un cas particulier, il ne peut être qualifié de question juridique de principe. La seule circonstance que la question n'ait encore jamais été tranchée ne suffit pas non plus à réaliser cette condition. Il faut encore qu'il s'agisse d'une question juridique dont l'importance pratique est telle qu'elle nécessite d'être éclaircie par la plus haute instance judiciaire. A l'inverse, il peut arriver qu'une question déjà résolue par le Tribunal fédéral revête néanmoins la qualité d'une question juridique de principe. Tel est notamment le cas si la jurisprudence rendue sur le sujet n'est pas claire, n'est pas constante ou qu'elle suscite d'importantes critiques dans la doctrine (cf. arrêt 2C_484/2008 du 9 janvier 2009 consid. 1.3.2 non pub. in ATF 135 II 49; 134 III 354 consid. 1.3 p. 357).
1.3.3 Dans un arrêt publié aux ATF 137 II 313 ss, le Tribunal fédéral s'est prononcé sur la qualité pour agir d'un soumissionnaire potentiel invoquant l'irrégularité d'une procédure de gré à gré sous l'angle de sa faculté à présenter une offre en rapport avec l'objet du marché tel que défini par l'adjudicateur. Les principes dégagés par cet arrêt, qui concerne le choix d'une procédure de gré à gré fondée sur l'art. 13 al. 1 let. c de l'ordonnance fédérale du 11 décembre 1995 sur les marchés publics (OMP; RS 172.056.11), sont transposables à la présente cause. Au vu de la jurisprudence récente citée ci-dessus (consid. 1.3.2), dont il n'y a pas lieu de s'écarter, la présente cause ne soulève ainsi pas de question juridique de principe.
Il s'ensuit que la voie du recours en matière de droit public n'est pas ouverte.
1.4 Seule subsiste la voie du recours constitutionnel subsidiaire. Déposé en temps utile (cf. art. 100 al. 1 en relation avec l'art. 117 LTF et art. 46 al. 1 let. a LTF), compte tenu de la date de la notification de la décision attaquée, soit le 26 mai 2011, et dans les formes prescrites (cf. art. 42 et 106 al. 2 LTF) par une partie à la procédure cantonale disposant d'un intérêt juridique à l'annulation ou à la modification de cet acte (cf. art. 115 LTF), le recours constitutionnel subsidiaire formé par le recourant est en principe recevable.
2. Dans un grief de nature formelle qu'il convient d'examiner en premier lieu, le recourant se plaint de la violation de son droit d'être entendu. Il fait valoir, d'une part, qu'il n'a pas pu présenter ses arguments et moyens de preuve - notamment en produisant un mémoire ampliatif - dans la procédure cantonale de recours et, d'autre part, que le refus de l'autorité précédente d'entrer en matière sur le fond du recours en lui déniant la qualité pour agir viole l'art. 29 al. 2 Cst.
Cette argumentation n'est pas fondée. La décision d'irrecevabilité entreprise ne saurait constituer en elle-même une violation du droit d'être entendu du recourant, pour autant que ce dernier ait eu la faculté de se déterminer au sujet de sa qualité pour agir. Or, cette possibilité lui a été offerte. En effet, par courrier du 9 février 2010, le juge délégué de l'autorité précédente lui a transmis les observations de l'Association Y._ du 8 février 2010, qui se limitaient à la question de la recevabilité du recours sous l'angle de la qualité et de l'intérêt à recourir, et lui a donné la faculté de se déterminer. Par mémoire du 16 février 2010, comportant non moins de huit pages, le recourant a fourni toutes les explications utiles, en particulier s'agissant de sa qualité pour recourir, en joignant trois pièces y relatives.
Le droit d'être entendu du recourant a donc été respecté.
3. 3.1 Le recourant soutient que le comportement du juge ayant rendu la décision attaquée porte atteinte à la garantie d'impartialité du tribunal, telle qu'elle ressort de l'art. 6 par. 1 CEDH. Il fait valoir en effet que ce magistrat s'est exprimé dans l'édition du 28 mai 2011 du quotidien "La Liberté", où il a relevé que le Tribunal cantonal avait dénié au recourant la qualité pour recourir et ne s'était donc pas prononcé sur le fond du litige, auquel cas le recourant aurait peut-être obtenu gain de cause.
3.2 Le droit à un procès équitable est consacré, en droit interne, par l'art. 30 al. 1 Cst. relatif aux garanties de procédure judiciaire. Selon cette disposition, toute personne dont la cause doit être jugée dans une procédure judiciaire a droit à ce que sa cause soit jugée devant un tribunal établi par la loi, compétent, indépendant et impartial. En droit conventionnel, l'art. 6 par. 1 CEDH prévoit que toute personne a droit notamment à ce que sa cause soit entendue par un tribunal indépendant et impartial, établi par la loi, qui décidera en particulier des contestations sur ses droits et obligations de caractère civil. Selon la doctrine, cette disposition est en principe applicable aux procédures de recours en matière de marchés publics, pour autant qu'il existe un droit à l'adjudication du marché litigieux (cf. Andreas R. Ziegler, L'importance de l'article 6 CEDH dans la procédure de recours dans le cadre des marchés publics en Suisse, in PJA 2011 p. 344 ss).
3.3 En l'espèce, point n'est besoin de se prononcer définitivement sur l'applicabilité de l'art. 6 par. 1 CEDH à la présente cause, du moment que le grief y relatif est de toute manière mal fondé.
Il n'est guère aisé de cerner avec précision la nature des reproches émis à l'encontre de l'autorité précédente. Le recourant ne conteste pas que celle-ci était compétente au regard de la loi de procédure cantonale et qu'elle jouissait de l'indépendance voulue. Le recourant semble en revanche mettre en cause son impartialité. Or, on voit mal en quoi un tel manque d'impartialité ressortirait de l'article de presse paru le 28 mai 2011 dans le quotidien "La Liberté". D'une part, les propos relatés sont postérieurs au jugement attaqué et ne concernent pas le déroulement de la procédure. D'autre part, le magistrat concerné s'est borné à exposer le sens et la portée de la décision litigieuse. Le fait qu'il ait exprimé le sentiment qu'en cas d'examen de la cause au fond, le recourant aurait peut-être eu gain de cause ne saurait constituer une quelconque marque de partialité. Pour le surplus, aucun élément du dossier ne permet de mettre en doute l'impartialité de l'autorité précédente. S'agissant du déroulement des opérations, on peut tout au plus s'étonner que la décision attaquée n'ait été rendue que le 18 mai 2011, alors que la dernière pièce produite dans le cadre de l'instruction du recours porte la date du 26 août 2010.
A supposer qu'il soit applicable, l'art. 6 par. 1 CEDH ne saurait par conséquent avoir été violé.
4. 4.1 Le recourant soutient que l'autorité précédente a fait une application arbitraire de l'art. 76 let. a CPJA, selon lequel a qualité pour agir quiconque est atteint par la décision attaquée et a un intérêt digne de protection à ce qu'elle soit annulée ou modifiée, ainsi que de l'art. 100 al. 1 let. a CPJA, qui confère au président d'une autorité collégiale de recours la compétence d'écarter un recours manifestement irrecevable.
4.2 Dans la procédure de gré à gré, l'adjudicateur choisit la personne de l'adjudicataire en dehors de tout appel d'offres. Un concurrent potentiel ne peut donc pas exiger d'être inclus dans une telle procédure. Il ne peut contester une telle adjudication qu'en démontrant que le marché en cause devait faire l'objet d'une procédure ouverte. Une telle faculté n'est toutefois réservée qu'à celui qui établit qu'il aurait été en mesure de présenter une offre susceptible d'être retenue dans l'hypothèse d'une procédure ouverte; il ne lui suffit donc pas de démontrer que le choix de l'adjudication de gré à gré était contraire au droit (ATF 137 II 313 consid. 3.3.2 p. 321). La question de savoir si un tel concurrent potentiel aurait pu faire partie du cercle des soumissionnaires doit être examinée en relation avec sa qualité pour agir (ATF 137 II 313 consid. 3.4 p. 323).
4.2 Dans la procédure de gré à gré, l'adjudicateur choisit la personne de l'adjudicataire en dehors de tout appel d'offres. Un concurrent potentiel ne peut donc pas exiger d'être inclus dans une telle procédure. Il ne peut contester une telle adjudication qu'en démontrant que le marché en cause devait faire l'objet d'une procédure ouverte. Une telle faculté n'est toutefois réservée qu'à celui qui établit qu'il aurait été en mesure de présenter une offre susceptible d'être retenue dans l'hypothèse d'une procédure ouverte; il ne lui suffit donc pas de démontrer que le choix de l'adjudication de gré à gré était contraire au droit (ATF 137 II 313 consid. 3.3.2 p. 321). La question de savoir si un tel concurrent potentiel aurait pu faire partie du cercle des soumissionnaires doit être examinée en relation avec sa qualité pour agir (ATF 137 II 313 consid. 3.4 p. 323).
4.3 4.3.1 En l'espèce, l'autorité précédente ne s'est pas prononcée sur les arguments du recourant tendant à démontrer que l'adjudication litigieuse était irrégulière dès lors qu'elle excluait la réglementation sur les marchés publics. Envisageant l'hypothèse où le point de vue du recourant serait fondé, elle a uniquement examiné, s'agissant de la recevabilité du recours, si le recourant aurait pu être considéré comme un adjudicataire potentiel dans le cadre d'un appel d'offres en procédure ouverte. Ce mode de faire n'est pas critiquable. Il convient donc de déterminer si l'appréciation à laquelle l'autorité précédente s'est livrée sur ce point est arbitraire, sans qu'il soit besoin d'examiner si l'adjudication litigieuse devait être soumise à la réglementation sur les marchés publics et d'en constater l'illicéité, comme le requiert le recourant.
4.3.2 Invité par l'autorité précédente à se déterminer sur sa qualité et son intérêt à recourir, le recourant a exposé, dans son écriture du 16 février 2010, être administrateur et propriétaire de la société G._ SA, fondée le **** et sise à Berne. Celle-ci exploiterait une entreprise de services dans le domaine des transports produisant des systèmes intégrés pour la gestion complète des entreprises. Le recourant a en outre fait valoir qu'il disposait d'une licence de transport, d'un bus, de compétences dans le contrôle de gestion des entreprises de transport et d'une longue expérience de conducteur de cars et d'autobus. Il a fait part de son intérêt à exploiter lui-même deux à trois bus avec huit personnes dans le cadre d'une offre destinée à l'Association Y._. Au bénéfice de ces explications, le recourant soutient qu'il doit être considéré comme un soumissionnaire potentiel et que sa légitimation à recourir, qui a été admise par le Préfet de la Veveyse, ne doit pas être soumise à des exigences trop élevées, le rôle de l'autorité judiciaire n'étant pas de substituer son appréciation à celle du pouvoir adjudicateur.
4.3.3 Ce point de vue ne saurait être suivi. La mise en oeuvre de l'extension du réseau de transports publics de la région de A._ impliquait la création de deux nouvelles lignes fonctionnant six jours sur sept, afin de relier cinq communes, et nécessitant la mise à disposition de cinq autobus, dont un bus articulé, circulant quotidiennement. Indépendamment de la fourniture du matériel roulant, l'exploitant devait disposer des infrastructures utiles en matière d'entretien, de réparation et de dépannage de ce matériel, ainsi que des ressources en personnel propres à assurer l'ensemble des prestations requises. Or, à l'évidence, le recourant, propriétaire d'un seul bus, ne disposait pas - et ne dispose apparemment toujours pas - du matériel et des infrastructures susceptibles de répondre aux besoins de l'Association Y._. Il en va de même de la société G._ SA, qui n'a pas pour but d'exploiter un réseau de transports publics. Le fait d'être titulaire d'une licence de transport, de posséder une longue expérience de conducteur d'autobus et des compétences en matière de contrôle de gestion dans le domaine des transports est manifestement insuffisant pour conférer au recourant la qualité de soumissionnaire potentiel pour le marché litigieux. Le recourant en était d'ailleurs conscient lorsqu'il relevait dans son écriture du 16 février 2010 que la société dont il était propriétaire avait prévu de créer un nouveau secteur d'activité permettant d'offrir aux habitants de l'agglomération de A._ un service moderne et efficace. A supposer même que la société G._ SA ait pu créer de toutes pièces, dans les délais auxquels l'Association Y._ était soumise, une entreprise apte à soumissionner, elle n'aurait pu se prévaloir d'aucune expérience pratique en matière d'exploitation d'un réseau de transports. Or, il ne fait pas de doute que ce critère aurait revêtu une importance particulière dans le cadre d'une procédure ouverte de marché public, le pouvoir adjudicateur étant légitimé à s'assurer que les soumissionnaires avaient fait leur preuves dans le domaine des transports publics.
Pour le surplus, il n'est pas décisif que le Préfet de la Veveyse n'ait pas fondé sa décision d'irrecevabilité du 3 décembre 2009 sur le défaut de qualité pour agir du recourant en vertu de l'art. 76 let. a CPJA. L'autorité précédente était en effet en droit d'examiner la recevabilité du recours dont elle était saisie sous l'angle de cette disposition.
Le Président de la IIe Cour administrative du Tribunal cantonal n'a donc pas fait preuve d'arbitraire en considérant que le recourant était manifestement dépourvu d'un intérêt digne de protection au sens de l'art. 76 let. a CPJA et en statuant seul, en application de l'art. 100 al. 1 let. a CPJA.
5. Le recourant voit également une violation des art. 8 et 27 Cst. dans le fait qu'il a été privé de la faculté de présenter une offre dans le contexte d'un marché public. En adjugeant le marché litigieux aux TZ, l'Association Y._ aurait "verrouillé la concurrence" et lui aurait fermé l'accès à une activité lucrative dont l'exercice lui est garanti par le principe constitutionnel de la liberté économique.
Dans la mesure où le recourant était dépourvu de la qualité de soumissionnaire potentiel et, par conséquent, de la qualité pour agir, il ne saurait se plaindre d'une discrimination au sens de l'art. 8 Cst. ni d'une violation de sa liberté économique. N'étant pas en situation de présenter une offre susceptible de répondre aux besoins de l'adjudicateur, il ne pouvait pas être considéré comme un concurrent direct qui aurait été écarté illicitement du marché en cause.
Les moyens tirés d'une violation des art. 8 et 27 Cst. sont en conséquence infondés.
6. Vu ce qui précède, le recours en matière de droit public doit être déclaré irrecevable et le recours constitutionnel subsidiaire être rejeté.
Succombant, le recourant doit supporter les frais judiciaires (cf. art. 65 et 66 al. 1 LTF) et n'a pas droit à des dépens (cf. art. 68 al. 1 LTF). Il versera en outre aux TZ, qui obtiennent gain de cause, une indemnité à titre de dépens, laquelle sera fixée en fonction du travail effectué. En revanche, l'Association Y._, formée de cinq communes, n'a pas droit à des dépens, une exception à la règle de l'art. 68 al. 3 LTF ne se justifiant pas (cf. ATF 134 II 117 consid. 7 p. 118).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est irrecevable.
2. Le recours constitutionnel subsidiaire est rejeté.
3. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
4. Le recourant versera à la société Transports Z._ SA une indemnité de 3'000 fr. à titre de dépens.
5. Le présent arrêt est communiqué aux mandataires des parties, au Préfet du district de la Veveyse, et au Tribunal cantonal du canton de Fribourg.
Lausanne, le 23 février 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin