Faits:
A. La société Swisscom (Suisse) SA, Wireless Access West (ci-après: Swisscom), a entrepris d'implanter une nouvelle installation de communication GSM et UMTS sur la parcelle *** de la commune de La Folliaz, propriété de Z._. Ce bien-fonds, à l'adresse route du xxx, est situé en zone agricole dans le secteur "Lussy", au lieu-dit "La Tza", à proximité de la ligne de chemin de fer reliant Lausanne à Fribourg.
A l'appui de sa demande, Swisscom a notamment produit une fiche de données spécifiques au site concernant les stations de base pour téléphonie mobile et raccordement sans fil (WLL) établie le 13 novembre 2009, ainsi qu'un rapport portant sur la justification de construction du site de Lussy daté du 5 février 2010. Il ressort du dossier déposé par la requérante que le projet comporte un mât d'une hauteur de 25.01 m et de 30 à 40 cm de diamètre environ, deux supports d'antennes d'une hauteur d'environ 4 m équipés chacun de deux antennes combinées GSM/UMTS, une armoire technique d'environ 3.0 x 0.8 x 2.0 m (largeur x profondeur x hauteur) et des câbles d'alimentation nécessaires. La construction serait installée en applique d'un hangar existant sur ladite parcelle, dont la hauteur est de 8 m. Elle est destinée à assurer la couverture UMTS de la ligne CFF entre Villaz-St-Pierre et Romont, où elle est inexistante, ainsi que la couverture GSM sur ce même secteur et sur les hauts des villages de Villaz-St-Pierre et de Lussy, où elle est insuffisante. La couverture UMTS permettrait de faire la jonction entre le site SCS existant de Villaz-St-Pierre (VIPI) et le nouveau site projeté à l'entrée de Romont (ROCA) actuellement à l'étude; elle assurerait une continuité dans la liaison UMTS et garantirait une connexion sans coupure dans la transmission de données.
Mis à l'enquête publique, le projet précité a fait l'objet de vingt-quatre oppositions ainsi que de quatre listes de signatures de la part de riverains, essentiellement pour des motifs de nuisance et d'esthétique.
La commune de La Folliaz a émis un préavis défavorable, estimant que l'implantation de cette antenne près des habitations n'était pas appropriée.
Les autorités cantonales consultées ont toutes émis un préavis favorable, certaines sous condition. En particulier, le Service cantonal de l'environnement (ci-après: le SEn) a examiné si d'autres sites d'antennes relais ou de radio-télévision existants étaient susceptibles de supporter l'installation projetée et a conclu à la négative. L'étude effectuée avait démontré qu'aucun site ne satisfaisait aux contraintes techniques découlant de l'ordonnance du 23 décembre 1999 sur la protection contre le rayonnement non ionisant (ORNI; RS 814.710).
B. Le 30 septembre 2010, la Direction cantonale de l'aménagement, de l'environnement et des constructions (ci-après: le DAEC) a délivré une autorisation spéciale au projet d'antenne de Swisscom.
Par décision du 27 octobre 2010, le Préfet du district de la Glâne a écarté les oppositions et délivré le permis de construire.
Les opposants déboutés ont porté leur cause au Tribunal cantonal du canton de Fribourg (ci-après: le Tribunal cantonal), qui a rejeté leur recours par arrêt du 14 mars 2012. Les juges cantonaux ont retenu en substance que l'installation de Swisscom était imposée par sa destination et qu'aucun intérêt prépondérant ne s'opposait à son implantation à l'endroit projeté.
C. Agissant par la voie du recours en matière de droit public, B._ et C._, D._ et E._, A._, F._, G._ et H._, K._ et L._, M._ et N._, Q._, O._ et P._, S._ et T._, U._, X._ et Y._, V._ et W._, I._ et J._ ainsi que R._ demandent au Tribunal fédéral de réformer l'arrêt du Tribunal cantonal du 14 mars 2012 en ce sens que la décision du Préfet du district de la Glâne du 27 octobre 2010 est annulée, de même que les autorisations spéciales cantonales en rapport avec le projet, en particulier la décision de la DAEC du 30 septembre 2010. Subsidiairement, ils concluent à l'annulation de l'arrêt attaqué. Les recourants se plaignent pour l'essentiel d'une constatation incomplète des faits, d'une violation de leur droit d'être entendus et d'une mauvaise application du droit fédéral.
Le Tribunal cantonal renvoie aux considérants de son arrêt et conclut au rejet du recours. Le Préfet de la Glâne se réfère aux considérants et au dispositif de l'arrêt cantonal. La DAEC et Swisscom concluent au rejet du recours. La commune de La Folliaz propose l'admission du recours. L'Office fédéral du développement territorial ainsi que l'Office fédéral de l'environnement renoncent à déposer des observations. Les recourants ont répliqué le 27 août 2012.
Par ordonnance du 24 mai 2012, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif des recourants.

Considérant en droit:
1. La voie du recours en matière de droit public au sens de l'<ref-law> est ouverte contre une décision prise en dernière instance cantonale portant sur l'octroi d'une autorisation de construire une installation de téléphonie mobile. Les recourants ont participé à la procédure de recours devant le Tribunal cantonal; il n'est pas contesté qu'ils sont propriétaires d'une parcelle sise à l'intérieur du périmètre de 734.17 m défini comme distance maximale pour pouvoir former opposition dans la fiche de données spécifiques au site produite par Swisscom. La qualité pour agir doit leur être reconnue. Les autres conditions de recevabilité du recours sont réunies de sorte qu'il convient d'entrer en matière.
2. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, les recourants se plaignent d'une violation de leur droit d'être entendus. Ils reprochent à la cour cantonale de n'avoir pas invité la commune de La Folliaz à produire son plan d'affectation, ni organisé une inspection locale, comme ils l'avaient requis.
2.1 Le droit d'être entendu garanti à l'art. 29 al. 2 Cst. comprend notamment celui de faire administrer les preuves pour autant que celles-ci soient requises dans les formes prévues par le droit cantonal et qu'elles apparaissent utiles à l'établissement des faits pertinents (<ref-ruling> consid. 2.2 p. 504; <ref-ruling> consid. 2b p. 56; <ref-ruling> consid. 2b p. 102). L'autorité de décision peut donc se livrer à une appréciation anticipée de la pertinence du fait à prouver et de l'utilité du moyen de preuve offert et, sur cette base, refuser de l'administrer. Ce refus ne viole le droit d'être entendu que si l'appréciation à laquelle elle a ainsi procédé est entachée d'arbitraire (<ref-ruling> consid. 3 p. 157 et les arrêts cités; sur la notion d'arbitraire, voir <ref-ruling> consid. 5.1 p. 17).
2.2 En l'espèce, le Tribunal cantonal a rejeté les moyens de preuve sollicités, considérant qu'ils n'avaient pas vocation à modifier l'appréciation et la motivation juridiques auxquelles ils étaient parvenus. Les recourants estiment qu'il était pourtant essentiel de connaître les zones habitables disponibles, et donc de pouvoir consulter le plan d'affectation communal; une vision locale leur aurait par ailleurs permis de prouver que la topographie du terrain ne constituait pas un obstacle à une implantation en zone à bâtir. Ce faisant, ils n'expliquent toutefois pas en quoi le refus de la cour cantonale serait constitutif d'arbitraire. En tout état de cause, le raisonnement précité des juges cantonaux échappe à la critique et ceux-ci pouvaient, sans violer le droit d'être entendu des intéressés, renoncer à administrer les offres de preuve requises.
3. Les recourants se plaignent d'une constatation inexacte et incomplète des faits.
3.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Le recourant ne peut critiquer ceux-ci que s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.3 p. 62) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), ce qu'il lui appartient d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice soulevé doit en outre être susceptible d'influer sur le sort de la cause (<ref-law>).
3.2 En l'espèce, les recourants relèvent qu'il est mentionné à plusieurs reprises dans l'arrêt attaqué que l'installation en cause se trouverait en applique du hangar ou même sur celui-ci, alors que les plans montreraient que le projet se trouverait à côté du hangar. Le Tribunal cantonal a retenu que l'antenne litigieuse était accolée au hangar déjà construit. Cela ressort d'ailleurs des plans figurant au dossier, si bien qu'il n'y a pas de constatation inexacte des faits à cet égard. Les recourants précisent que l'installation est entièrement nouvelle, en ce sens qu'elle n'utilise aucun élément du hangar. Ce fait n'est toutefois pas contesté et il n'apparaît pas que la cour cantonale ait affirmé le contraire. Considérant que l'antenne projetée était accolée au hangar, les juges cantonaux en ont déduit qu'elle était "réalisée sur une construction existante" au sens de la jurisprudence. Les recourants, qui contestent ce point, critiquent moins les faits tels qu'ils ont été établis par le Tribunal cantonal que leur appréciation juridique. Il s'agit donc d'une question de droit qui doit être, cas échéant, examinée avec le fond.
Les intéressés indiquent ensuite que l'installation de téléphonie mobile ROCA serait déjà en fonction, et non pas à l'étude comme cela ressortirait de l'arrêt attaqué. Ils n'expliquent toutefois pas en quoi une éventuelle correction de ce vice aurait une influence sur l'issue de la procédure. Il n'y a par conséquent pas lieu de corriger l'état de fait sur ce point.
Mal fondé, le grief tiré d'une constatation inexacte des faits doit être écarté et le Tribunal fédéral est lié par les faits retenus dans l'arrêt attaqué, conformément à l'<ref-law>.
4. Situé dans la zone agricole, le projet d'installation de téléphonie mobile litigieux n'est pas conforme à l'affectation de cette zone. Il ne peut dès lors être autorisé que s'il remplit les conditions dérogatoires de l'art. 24 de loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT; RS 700), ce qui est précisément contesté par les recourants.
En vertu de l'art. 24 LAT, une autorisation dérogatoire peut être délivrée pour de nouvelles constructions ou installations hors de la zone à bâtir lorsque l'implantation de ces constructions ou installations est imposée par leur destination (let. a) et qu'aucun intérêt prépondérant ne s'y oppose (let. b). Ces deux conditions doivent être examinées séparément.
4.1 En l'espèce, le Tribunal cantonal a considéré que l'implantation d'une nouvelle installation de communication GSM et UMTS sur le site de Lussy était justifiée dans son principe. Le projet permettait en effet d'améliorer la couverture GSM sur la ligne CFF et sur le haut des villages de Lussy et Villaz-St-Pierre ainsi que d'assurer une continuité dans la liaison UMTS et une connexion sans coupure dans la transmission des données sur la ligne CFF entre les sites de Romont (ROCA) et Villaz-St-Pierre (VIPI). La nécessité de l'implantation d'une nouvelle antenne de téléphone mobile sur le site de Lussy n'est pas discutée par les recourants.
Les juges cantonaux ont ensuite retenu que l'antenne litigieuse, en tant qu'elle était accolée à un hangar agricole déjà construit, était "réalisée sur une construction existante" au sens de la jurisprudence. Les recourants estiment au contraire que l'implantation d'installations de téléphonie mobile hors de la zone à bâtir n'est envisageable qu'en cas d'utilisation d'un support existant; tel ne serait pas le cas en l'espèce s'agissant de la réalisation d'un nouveau mât et de cabines au sol, fût-ce à côté d'une construction existante.
4.2 L'antenne de téléphonie ici litigieuse a principalement pour but d'améliorer la couverture des communications GSM et d'assurer celle - inexistante pour l'instant - des communications UMTS sur la ligne CFF concernée. Accessoirement, elle améliorera la couverture GSM sur le haut des villages de Lussy et Villaz-St-Pierre. Il apparaît ainsi que l'installation projetée dessert avant tout la zone agricole à travers laquelle passe la ligne de chemin de fer Lausanne-Fribourg. Dans la mesure où la Confédération oblige les concessionnaires à assurer un service de téléphonie public pour l'ensemble de la population et dans tout le pays (art. 92 al. 1 Cst., art. 14 al. 1 et 16 al. 1 let. a de la loi du 30 avril 1997 sur les télécommunications [LTC; RS 784.10]), la couverture nécessaire à la téléphonie mobile vise tout le territoire suisse, qu'il soit bâti ou non. Dès lors, pour déterminer le lieu d'implantation d'une antenne de téléphonie mobile destinée à couvrir la zone agricole, il est déterminant que cet emplacement ait une relation fonctionnelle étroite avec la zone de couverture considérée (cf. <ref-ruling> consid. 5.3 p. 178).
Dans ces circonstances, il apparaît que l'implantation de l'antenne litigieuse est ici imposée par sa destination au sens de l'art. 24 let. a LAT. Il convient cependant d'examiner encore - seconde condition nécessaire au régime dérogatoire de l'art. 24 LAT - si aucun intérêt prépondérant ne s'oppose à une telle installation (art. 24 let. b LAT).
4.3 Dans le cadre de l'examen de l'art. 24 let. b LAT, il faut rechercher si le lieu d'implantation prévu par l'intimée peut être considéré comme admissible. A l'intérieur de la zone agricole, on veillera en particulier à ce que l'installation ne génère pas une désaffectation importante du terrain inconstructible, ce qui irait à l'encontre de l'intérêt prépondérant à maintenir l'affectation spécifique de chaque zone. Or, le projet litigieux ne porte précisément pas préjudice à ce but.
L'installation projetée n'entraînerait en effet qu'un empiètement minime sur la surface agricole, dans la mesure où la superficie utilisée pour les armoires techniques et le support d'antenne est modeste et que la construction est prévue en applique du hangar existant. Quant à la hauteur du mât (25.01 m), elle n'est pas déterminante à elle seule: la cour cantonale a retenu sur ce point que l'emplacement choisi permet de diminuer l'impact visuel de l'installation, dans un milieu largement bâti et à proximité d'une importante ligne de chemin de fer, et apparaît préférable à l'érection d'un tel mât sur une parcelle agricole vierge de toute construction. De telles considérations, qui entrent dans le cadre du pouvoir d'appréciation de l'autorité cantonale, ne violent pas l'art. 24 let. b LAT.
S'agissant de l'utilisation des autres antennes de téléphonie mobile existantes, les recourants ne contestent pas que les mâts Orange (FR_0608C) et Sunrise (VD317-2) sis à Villaz-St-Pierre ne peuvent être mis à profit. Ils sont toutefois d'avis que les autorités intimées auraient dû prendre en considération l'antenne Orange (FR_2006A) qui se trouve à la limite des communes de Lussy et de Romont. Comme l'a relevé à bon droit le Tribunal cantonal, cette antenne, sise à 1'400 m du site litigieux, ne se situe pas dans le périmètre dans lequel un devoir de coordination existe (arrêt 1A.62/2001 du 24 octobre 2001 consid. 6c in fine) et ne saurait dès lors être un obstacle à la construction de l'installation projetée. Le Service cantonal de l'environnement (SEn) a au surplus précisé dans ses observations que l'utilisation de l'antenne FR_2006A permettrait certainement d'assurer une partie de la couverture UMTS des voies de chemin de fer, mais de manière insuffisante à rendre le site querellé inutile.
Pour le surplus, il n'est pas nécessaire de démontrer que l'emplacement hors de la zone à bâtir est nettement plus favorable que celui situé en zone à bâtir. La présente problématique doit être distinguée des affaires que le Tribunal fédéral a déjà tranchées et auxquelles se sont référés tant la cour cantonale que les recourants (<ref-ruling> consid. 4.3.3 p. 326 s.; <ref-ruling> consid. 4.2 p. 418). Cette jurisprudence traitait d'antennes de téléphonie mobile sises hors de la zone à bâtir, mais destinées à couvrir la zone à bâtir. Il ressort en effet des principes fondamentaux d'aménagement du territoire (cf. art. 75 al. 2 Cst.) que les infrastructures desservant le milieu bâti - auxquelles appartiennent les antennes de téléphonie mobile - doivent en principe être réalisées dans la zone à bâtir qu'elles desservent (<ref-ruling> consid. 5.3 p. 178; Muggli, Commentaire LAT, n. 21 ad art. 24). Le régime dérogatoire prévu par la jurisprudence doit ainsi se comprendre dans ce contexte-là. En revanche, lorsque les installations en cause visent uniquement à desservir la zone agricole, la situation doit être envisagée différemment (cf. arrêt 1A.32/2005 du 8 décembre 2005 consid. 3.1 et les références).
4.4 Au vu de ce qui précède, la cour cantonale n'avait pas à rechercher de manière plus approfondie si un autre emplacement en zone à bâtir était nettement plus favorable que celui sis en zone agricole, le long de la ligne de chemin de fer. L'argumentation contraire des recourants est ainsi sans portée. Pour le surplus, les autres conditions posées à l'implantation de l'antenne litigieuse sont réalisées, de sorte que l'autorisation en cause ne viole pas le droit fédéral.
5. Il s'ensuit que le recours doit être rejeté. Les frais judiciaires sont mis à la charge des recourants qui succombent (art. 66 al. 1 et 5 LTF). Ils verseront en outre une indemnité de dépens à l'intimée qui a eu recours à un avocat (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Les recourants verseront à l'intimée une indemnité de 4'000 fr. à titre de dépens, solidairement entre eux.
4. Le présent arrêt est communiqué aux parties, à la Commune de La Folliaz, à la Préfecture du district de la Glâne, à la Direction de l'aménagement, de l'environnement et des constructions du canton de Fribourg, au Tribunal cantonal du canton de Fribourg, IIe Cour administrative, à l'Office fédéral du développement territorial et à l'Office fédéral de l'environnement, Division Droit.
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Lausanne, le 27 novembre 2012
Le Président: Fonjallaz
La Greffière: Mabillard