Faits:
A. A._ est propriétaire des parcelles 1208, 1216 et 1281 de la commune de Saint-Légier-La Chiésaz, qu'il a acquises le 7 février 1975 au prix de 36 fr. le m2. Les biens-fonds étaient alors situés en "zone des villas: secteur 2", selon le règlement communal sur le plan d'extension et la police des constructions de Saint-Légier-La Chiésaz approuvé par le Conseil d'Etat le 15 janvier 1963 (ci-après: le plan des zones de 1963). En application de l'arrêté fédéral instituant des mesures urgentes en matière d'aménagement du territoire (ci-après: AFU), les parcelles avaient été classées en 1973 en "zone à bâtir protégée à titre provisoire". Selon l'acte de vente, le vendeur avait établi un plan de quartier (En Crêt Giroud) qui était à l'étude auprès des autorités communales et les acquéreurs déclaraient reprendre à leurs risques et périls la procédure en cours relative audit plan.
Le 13 mai 1983, le Conseil d'Etat a approuvé le plan de zones et le règlement communal sur le plan d'extension et la police des constructions adoptés par le Conseil municipal de Saint-Légier-La Chiésaz dans sa séance du 7 décembre 1981 et par la Municipalité lors de ses séances des 7 juin 1979 et 29 juin 1981. La parcelle 1281 est demeurée en zone de villas secteur 2 et la parcelle 1208 a été colloquée en zone de verdure pour 1'950 m2, le solde en zone intermédiaire tout comme le bien-fonds 1216.
Le secteur comprenant la parcelle 1208 a été classé comme biotope, sous n° 23, dans l'inventaire cantonal des biotopes du mois de décembre 1989.
Les 22 février et 1er octobre 1993, la Municipalité a informé l'intéressé qu'elle avait décidé d'entreprendre l'établissement d'un plan directeur et de prévoir un projet de plan partiel d'affectation pour la zone intermédiaire En Crêt Giroud, comprenant le maintien de la petite zone verte.
Le plan directeur communal a été approuvé par le Conseil d'Etat le 6 octobre 2004. Le plan "paysage sites et environnement" du plan directeur indique que la parcelle 1208 se situe en espace vert à protéger et que s'y trouve une "colline à protéger"; certains bords de la parcelle sont en outre délimités comme "site naturel à protéger".
Le plan des zones approuvé par la Municipalité le 17 décembre 2007 maintient la parcelle 1281 en zone résidentielle et la parcelle 1208 en zone de verdure.
B. Par demande du 14 mai 1984 adressée au Président du Tribunal civil du district de Vevey, A._ a notamment conclu à ce que la commune de Saint-Légier-La Chiésaz soit sa débitrice de la somme de 1'864'900 fr., avec intérêts au taux de 5 % l'an dès le 13 mai 1983 (III), et, à titre éventuel, de 118'000 fr., avec intérêts au taux de 5 % l'an dès l'inconstructibilité du bien-fonds 1281 (IV). La cause a été suspendue jusqu'au 1er juillet 2000. Par procédé du 7 mai 2002, le demandeur a remplacé les conclusions III et IV de la demande du 14 mai 1984 par la conclusion suivante: condamner la commune de Saint-Légier-La Chiésaz à lui payer le capital de 1'645'000 fr. ou tout autre capital supérieur à dire d'expert, avec intérêts à 5 % l'an dès le 13 mai 1983. Un rapport d'expertise puis un complément d'expertise ont été adressés au greffe les 23 janvier 2007 et 13 octobre 2008.
Après avoir procédé à une inspection locale et entendu plusieurs témoins, le Tribunal d'expropriation de l'arrondissement de l'Est vaudois a rejeté les conclusions de A._ par jugement du 30 mars 2009.
Par arrêt du 22 février 2010, la Chambre des recours du Tribunal cantonal du canton de Vaud (ci-après: la Chambre des recours) a rejeté l'appel de A._ contre le jugement précité. Elle a considéré en substance que l'on se trouvait en présence d'un cas de non-classement, n'ouvrant pas le droit à une indemnisation du propriétaire.
C. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral de réformer l'arrêt de la Chambre des recours du 22 février 2010 et dire que la commune de Saint-Légier-La Chiésaz lui est débitrice du capital de 442'400 fr. avec intérêts à 5 % l'an dès le 6 octobre 2004 à titre d'indemnité du chef de la parcelle 1208 colloquée en zone de verdure pour 1950 m2.
La Chambre des recours se réfère aux considérants de son arrêt. L'Etat de Vaud s'en remet à justice et la commune de Saint-Légier-La Chiésaz conclut au rejet du recours.
Le 26 juillet 2010, le recourant a présenté une demande de suspension de la procédure, compte tenu des négociations entreprises avec la commune de Saint-Légier-La Chiésaz. Par ordonnance du 3 août 2010, le juge instructeur de la Ire Cour de droit public a suspendu l'instruction de la cause et ordonné sa reprise d'office au plus tard le 1er novembre 2010 en cas d'échec des pourparlers transactionnels. Après plusieurs requêtes de prolongation du délai, les parties ont déclaré renoncer à la suspension de l'instruction, la transaction envisagée ayant échoué. L'instruction de la cause a été reprise par ordonnance du 11 février 2011.
Considérant en droit:
1. 1.1 L'arrêt attaqué constitue une décision cantonale de dernière instance rendue en matière d'indemnisation résultant de restrictions apportées au droit de propriété au sens de l'art. 5 de la loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT; RS 700). Il peut faire l'objet d'un recours en matière de droit public selon les art. 82 ss LTF. Le recourant, qui est propriétaire de la parcelle 1208 dont il prétend qu'elle serait frappée d'une expropriation matérielle, dispose de la qualité pour recourir en vertu de l'art. 89 al. 1 LTF. Les autres conditions de recevabilité énoncées aux art. 82 ss LTF sont remplies, de sorte qu'il y a lieu d'entrer en matière.
1.2 Le recourant requiert la production du dossier entier du Tribunal cantonal. Sa requête est satisfaite, la Chambre des recours ayant déposé le dossier cantonal complet dans le délai que le Tribunal fédéral lui avait imparti à cette fin (cf. art. 102 al. 2 LTF).
2. Le recourant fait valoir que la parcelle 1208, placée en zone de verdure, est définitivement inconstructible. Elle est ainsi soustraite à "tout usage possible à titre de propriétaire" et "la perte totale des facultés liées à la propriété, à défaut de réparation, viole[rait] le droit de propriété".
2.1 Selon la jurisprudence, il y a expropriation matérielle au sens de l'art. 26 al. 2 Cst. et de l'art. 5 al. 2 LAT lorsque l'usage actuel d'une chose ou son usage futur prévisible est interdit ou restreint de manière particulièrement grave, de sorte que l'intéressé se trouve privé d'un attribut essentiel de son droit de propriété. Une atteinte de moindre importance peut aussi constituer une expropriation matérielle si elle frappe un ou plusieurs propriétaires d'une manière telle que, s'ils n'étaient pas indemnisés, ils devraient supporter un sacrifice par trop considérable en faveur de la collectivité, incompatible avec le principe de l'égalité de traitement (ATF 131 II 151 consid. 2.1 p. 155; 125 II 431 consid. 3a p. 433 et les arrêts cités).
La jurisprudence distingue généralement deux hypothèses: d'une part le refus de classement en zone à bâtir ("non-classement", "Nichteinzonung") et d'autre part le déclassement ("Auszonung"). On parle de déclassement lorsqu'un bien-fonds classé dans une zone à bâtir est frappé d'une interdiction de construire (cf. ATF 125 II 431 consid. 3b p. 433; 122 II 326 consid. 4c p. 330 et les arrêts cités). Cela présuppose toutefois qu'au moment de l'entrée en force de la mesure de planification qui produirait, selon le propriétaire, l'effet d'une expropriation matérielle, la parcelle en question se trouvait comprise dans une zone à bâtir édictée conformément aux prescriptions de la législation fédérale en matière d'aménagement du territoire (ATF 122 II 326 consid. 4b p. 329/330; 118 Ib 38 consid. 2c p. 41/42; 117 Ib 4). Il y a en revanche refus de classement lorsque la modification d'un plan d'affectation, qui a pour effet de sortir une parcelle de la zone à bâtir où elle se trouvait auparavant, intervient pour adapter ce plan aux exigences de la LAT, entrée en vigueur en 1980 - et partant pour mettre en oeuvre les principes du droit constitutionnel en matière de droit foncier - (ATF 131 II 151 consid. 2.6 p. 161). Tel est le cas de la décision par laquelle l'autorité de planification, édictant pour la première fois un plan d'affectation conforme aux exigences constitutionnelles et légales, ne range pas un bien-fonds déterminé dans la zone à bâtir et cela même si ce terrain était constructible selon la réglementation antérieure (ATF 125 II 431 consid. 3b p. 433; 122 II 326 consid. 4c p. 330; 119 Ib 124 consid. 2a p. 128, consid. 2d p. 129 s. et les arrêts cités). Le refus de classement ne peut en principe pas fonder le droit à une indemnité pour expropriation matérielle.
2.2 Dans le cas particulier, la Chambre des recours a relevé que la parcelle 1208 avait été colloquée en zone verdure et en zone intermédiaire ensuite de l'adoption, le 7 décembre 1981, du plan de zone communal approuvé par le Conseil d'Etat le 13 mai 1983. Les premiers juges, se fondant sur l'avis de l'expert, avaient admis que ce plan n'était pas conforme à la LAT en ce qui concernait l'étendue de la zone à bâtir. En outre, il ressortait du rapport du 13 février 1981 de la commission du Conseil communal de Saint-Légier-La Chiésaz que le plan de zone en cause répondait à des exigences de la législation cantonale adoptée en 1976, sans mentionner la LAT. La Chambre des recours a toutefois laissé indécis le point de savoir si ce plan constituait la première adaptation de la planification à la LAT n'ouvrant en principe pas le droit à l'indemnisation du propriétaire. En effet, dans la mesure où ce ne serait pas le cas, il conviendrait de déterminer si la parcelle en cause devrait être classée dans une zone à bâtir selon l'art. 15 LAT ou si, au contraire, un régime de non-constructibilité aurait nécessairement dû être prévu dès l'entrée en vigueur de la LAT (cf. ATF 131 II 151 consid. 2.6 p. 161). Or, l'expertise avait établi que la zone à bâtir prévue par le plan de zone approuvé en 1983 était surdimensionnée; dans ces conditions, la parcelle 1208, qui n'était pas située dans un secteur largement bâti (art. 15 let. a LAT) et ne pouvait être considérée comme nécessaire à la construction dans les quinze ans à venir (art. 15 let. b LAT), n'avait pas à être classée en zone à bâtir.
Le recourant ne conteste aucun des éléments précités, lesquels sont propres à établir que l'on se trouve non pas en présence d'un cas de déclassement au sens du consid. 2.1 ci-dessus, mais bien d'un non-classement ou refus de classer. Il se contente d'argumenter que la distinction entre le déclassement et le refus de classement ne serait pas "opérante" dans son cas puisque, de toute façon, il perd l'usage de la propriété de sa parcelle. Son argument, peu développé, est difficilement compréhensible. Quoi qu'il en soit, le Tribunal fédéral a rappelé dans plusieurs arrêts récents qu'il n'entendait pas abandonner la délimitation entre le déclassement et le refus de classer (ATF 132 II 218 consid. 2.2 p. 220 s.; 131 II 151 consid. 2.6, 728 consid. 2.1 p. 730). Il n'y a dès lors pas lieu de remettre en cause cette distinction, fondée sur des critères objectifs et clairement identifiables, quand bien même la LAT est entrée en vigueur il y a maintenant trente ans (arrêt 1C_449/2009 du 26 mai 2010 consid. 6.2). Il résulte de ce qui précède que l'arrêt attaqué doit être confirmé sur ce point.
3. Il reste encore à examiner si le non-classement litigieux représente tout de même un cas d'expropriation matérielle donnant le droit à une indemnisation.
3.1 Exceptionnellement, un refus de classement dans la zone à bâtir peut également fonder le droit à une indemnité pour expropriation matérielle, en vertu du principe de la confiance. Tel est le cas lorsque le propriétaire concerné pouvait de bonne foi s'attendre à ce que son terrain soit classé en zone à bâtir et que le classement n'a cependant pas eu lieu pour des raisons de planification (par ex. protection de la nature et du paysage, etc.). Selon la jurisprudence, un non-classement peut ainsi être assimilé à une expropriation matérielle quand le terrain litigieux était prêt à la construction - ou à tout le moins quand il était déjà raccordé aux installations de l'équipement général -, lorsqu'il se situait à l'intérieur du périmètre du plan directeur des égouts, lorsque son propriétaire avait déjà engagé des frais importants pour l'équipement ou la construction ou qu'il s'était fondé sur les assurances données par l'autorité compétente (ATF 132 II 218 consid. 2.2 p. 220 s.; 125 II 431 consid. 4a p. 434; 122 II 326 consid. 6a p. 333; 121 II 417 consid. 4b p. 423 s.; 119 Ib 124 consid. 2d p. 129 s.; 118 Ib 38 consid. 2d p. 42, consid. 5a p. 48 s., 341 consid. 4 p. 343 s.; 116 Ib 379 consid. 6a p. 384; 114 Ib 301 consid. 3d p. 304; 112 Ib 396 consid. 6 p. 401).
Le jour déterminant pour savoir si l'on se trouve en présence d'une expropriation matérielle est l'entrée en vigueur du nouveau plan de zones (ATF 132 II 218 consid. 2.4 p. 222), soit en l'espèce le 13 mai 1983, date de l'approbation par le Conseil d'Etat.
3.2 En l'occurrence, le recourant ne fait pas valoir qu'en 1983 la parcelle litigieuse était prête à la construction, qu'elle se situait à l'intérieur du périmètre du plan directeur des égouts ou encore qu'il avait engagé des frais importants pour l'équipement ou la construction. Il relève simplement qu'à l'époque de l'achat, le passage d'une partie de la parcelle 1208 en zone de verdure était rigoureusement imprévisible. Il ne se prévaut cependant pas du principe de la confiance. Il n'allègue en effet pas, et il ne ressort d'ailleurs pas des faits établis dans l'arrêt attaqué, que la commune de Saint-Légier-La Chiésaz lui aurait donné, avant l'approbation du plan de zone de 1983, des assurances au sujet du maintien de son bien-fonds en zone constructible. Au demeurant, la parcelle 1208 était classée, depuis 1973, en "zone à bâtir protégée à titre provisoire" en vertu de l'AFU et, comme il a été relevé au consid. 2.2 ci-dessus, elle n'était pas située dans un secteur largement bâti et ne pouvait être considérée comme nécessaire à la construction dans les quinze ans à venir, si bien qu'elle n'avait pas à être classée en zone à bâtir dans le nouveau plan de zones (cf. art. 15 LAT). Les principes du droit fédéral en matière de protection de la bonne foi ne sauraient donc justifier, dans le cas particulier, l'octroi d'une indemnité d'expropriation.
3.3 Le recourant indique qu'il serait le seul propriétaire frappé de cette "indisponibilité" puisque seule la parcelle 1208 aurait été classée en zone de verdure dans la réglementation de 1983. Il ne dit toutefois pas ce qu'il entend tirer de cette affirmation, au demeurant contestée par la commune intimée. A supposer qu'il se plaigne d'une inégalité de traitement par rapport au classement de sa parcelle en zone de verdure, il apparaît que son grief sort du cadre du présent litige et doit être écarté. L'objet de la contestation se limite en effet à la question de l'expropriation matérielle de la parcelle litigieuse et ne s'étend pas au bien-fondé du plan d'affectation de 1983. De même, ses considérations relatives à l'opportunité de classer son terrain en zone intermédiaire plutôt qu'en zone de verdure n'ont pas à être examinées ici.
4. Il résulte de ce qui précède que le recours, entièrement mal fondé, doit être rejeté. Le recourant, qui succombe, doit payer les frais judiciaires (art. 65 al. 1 et 66 al. 1 LTF) et n'a pas droit à des dépens (art. 68 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux mandataires du recourant, de la Commune de St-Légier-La Chiésaz et de l'Etat de Vaud, ainsi qu'à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 7 mars 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Fonjallaz Mabillard