Faits:
A. G._ a travaillé au service de la société X._ du 1er janvier 2004 au 28 février 2007. Du 1er avril 2007 au 16 janvier 2009, il a continué à travailler pour cette même société en free-lance. Durant cette période, il était inscrit comme indépendant auprès de la caisse de compensation. Dès le 9 février 2009, il a été engagé par la société Y._, qui a résilié son contrat de travail au 30 novembre 2009.
Depuis le 18 août 2004, G._ est inscrit au registre du commerce en qualité d'administrateur vice-président, au bénéfice de la signature collective à deux, de l'association viticole de Z._, devenue le 4 février 2010 la société coopérative viticole de Z._. L'association l'a engagé dans le cadre d'un contrat de durée déterminée du 1er janvier au 7 mai 2010 pour mettre en place un projet de marketing et de vente. Le 10 mai 2010, le prénommé a présenté une demande de chômage.
Par décision du 15 juillet 2010, confirmée sur opposition le 14 février 2011, la Caisse cantonale de chômage du canton de Vaud (ci-après: la caisse) a refusé de donner suite à la demande de chômage, motif pris que l'intéressé, de par sa fonction de vice-président de la société coopérative, était réputé disposer d'un pouvoir décisionnel sur son propre engagement, ce qui excluait le droit aux indemnités journalières. G._ a retrouvé un emploi salarié le 1er décembre 2010.
B. Le prénommé a déféré la décision sur opposition du 14 février 2011 à la Cour des assurances sociales du Tribunal cantonal vaudois. En cours de procédure, il a informé les juges cantonaux de la radiation, en date du 25 octobre 2011, de son inscription de vice-président de la société coopérative viticole de Z._.
Après avoir procédé à une audience d'enquêtes au cours de laquelle ont été entendus A._ et B._, respectivement président et gérant de la société coopérative, le tribunal cantonal a rejeté le recours, par jugement du 16 janvier 2012.
C. G._ interjette un recours en matière de droit public et un recours constitutionnel subsidiaire. Sous suite de frais et dépens, il conclut à ce que le jugement cantonal soit annulé et la caisse condamnée à lui verser les prestations légales de chômage.
La caisse s'en remet à justice. De son côté, le Secrétariat d'Etat à l'économie a renoncé à se déterminer.

Considérant en droit:
1. Le recours en matière de droit public remplit les conditions de recevabilité posées par les art. 82 à 85 LTF. Partant, en raison de son caractère subsidiaire, le recours constitutionnel n'est pas recevable (<ref-law>).
2. Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>.
3. Le jugement entrepris expose correctement la jurisprudence de l'<ref-ruling> d'après laquelle, par analogie à la réglementation en matière d'indemnités en cas de réduction de l'horaire de travail (art. 31 al. 3 let. c LACI), un travailleur qui jouit d'une situation professionnelle comparable à un employeur n'a pas droit à l'indemnité de chômage lorsque, bien que licencié formellement par une entreprise, il continue de fixer les décisions de l'employeur ou à influencer celles-ci de manière déterminante. Il suffit d'y renvoyer.
4. La juridiction cantonale a retenu que G._, en tant qu'administrateur vice-président et membre du comité directeur de la société coopérative viticole de Z._, disposait d'un pouvoir décisionnel sur la marche des affaires de l'entreprise, et par conséquent également sur la nomination et la révocation des employés de celle-ci (art. 56 des statuts et <ref-law>), si bien que la jurisprudence de l'<ref-ruling> trouvait application dans son cas. Elle a considéré que ce point de vue s'imposait même si les témoins entendus en cours de procédure avaient expliqué de manière crédible et convaincante que l'engagement de G._ résultait d'un concours de circonstances très particulier lié aux compétences et à la disponibilité de ce dernier à un moment où la coopérative montait un projet de point de vente limité dans le temps, et non pas à sa qualité d'administrateur, et que ce dernier ne disposait que peu de pouvoirs puisque la gestion de la société se trouvait en mains du président A._ tandis que la direction du personnel relevait de la responsabilité du gérant B._. Selon la juridiction cantonale, en effet, l'éventualité d'un nouvel engagement par la coopérative ne pouvait être exclue, à tout le moins aussi longtemps que l'intéressé avait conservé sa fonction d'administrateur. Partant, le refus de la caisse d'allouer les prestations de chômage n'était pas critiquable.
5. Le recourant considère que les juges cantonaux ne sauraient lui opposer la jurisprudence de l'<ref-ruling> dès lors qu'ils ont admis que ses fonctions au sein de la coopérative n'avaient eu aucune influence sur son engagement à durée déterminée. Il fait remarquer qu'en poussant le raisonnement de ceux-ci jusqu'à son terme, il faudrait alors exclure du droit au chômage tout employé qui serait également administrateur ou gérant d'une société tierce, au motif que le jour où celui-ci tombe au chômage, il pourrait en principe se faire engager par la société qu'il dirige. Un tel résultat, qui constitue une entrave à la participation à la vie économique, n'est à l'évidence pas celui voulu par le législateur. Le recourant souligne également que son activité au comité de la société l'avait toujours été à titre bénévole et que son engagement avait seulement duré le temps nécessaire pour réaliser un projet marketing. Par surabondance, il fait valoir que la cause de son chômage se trouve exclusivement dans son licenciement par Y._ alors qu'il était un collaborateur salarié, ce qui excluait tout risque d'un détournement de la loi. En prenant cet emploi limité dans le temps auprès de la coopérative, il n'avait rien fait d'autre que de réduire son chômage. Enfin, les premiers juges n'avaient pas pris la peine d'examiner s'il pouvait prétendre à la prise en compte d'un délai-cadre de cotisation prolongé au sens de l'<ref-law>.
6. 6.1 Lorsqu'il s'agit de déterminer quelle est la possibilité effective d'un dirigeant d'influencer le processus de décision de l'entreprise, il convient de prendre en compte les rapports internes existant dans l'entreprise. On établira l'étendue du pouvoir de décision en fonction des circonstances concrètes (DTA 1996/1997 no 41 p. 227 s. consid. 1b et 2; SVR 1997 ALV no 101 p. 311 consid. 5c). La seule exception à ce principe concerne les membres des conseils d'administration car ils disposent ex lege (art. 716 à 716b CO) d'un pouvoir déterminant au sens de l'art. 31 al. 3 let. c LACI (DTA 1996/1997 no 41 p. 226 consid. 1b et les références). Pour les membres du conseil d'administration, le droit aux prestations peut dès lors être exclu sans qu'il soit nécessaire de déterminer plus concrètement les responsabilités qu'ils exercent au sein de la société (<ref-ruling> consid. 3 p. 273; DTA 2004 no 21 p. 196 consid. 3.2, C 113/03). C'est le cas également pour les associés, respectivement les associés-gérants lorsqu'il en a été désigné, d'une société à responsabilité limitée (arrêts 8C_140/2010 du 12 octobre 2010, consid. 4.2 et C 37/02 du 22 novembre 2002, consid. 4) et pour les membres de la direction d'une association (arrêt 8C_515/2007 du 8 avril 2008, consid. 3).
6.2 En vertu de l'<ref-law>, l'administration est l'organe compétent pour la gestion des affaires d'une société coopérative. Selon cette disposition, les membres de l'administration doivent exercer leurs attributions avec toute la diligence nécessaire et contribuer de toutes leurs forces à la prospérité de l'entreprise commune. Les statuts peuvent conférer une partie des obligations et des pouvoirs de l'administration à un ou plusieurs comités élus par elle (<ref-law>). Par ailleurs, les personnes autorisées à représenter la société ont le droit de faire au nom de celle-ci tous les actes que peut impliquer le but social (<ref-law>). A ce titre, les membres de l'administration, respectivement d'un comité d'une coopérative occupent donc une position comparable à celle du conseil d'administration d'une société anonyme (art. 716 à 716b CO), en ce sens qu'ils disposent ex lege du pouvoir de fixer les décisions que la coopérative est amenée à prendre comme employeur ou, à tout le moins, de les influencer considérablement au sens de l'art. 31 al. 3 let. c LACI.
6.3 En l'occurrence, il est constant que le recourant a été engagé par la coopérative alors qu'il faisait partie du comité directeur de celle-ci et qu'il en est resté membre après la fin de son engagement. Ce fait en soi suffit, d'après la jurisprudence, à exclure son droit à l'indemnité de chômage pour toute la période requise. Que la cour cantonale, sur la base des témoignages recueillis, a néanmoins estimé que l'engagement du recourant était indépendant de sa qualité de membre du comité, n'y change rien. Lorsque l'administration statue pour la première fois sur le droit à l'indemnité d'un chômeur, elle émet un pronostic quant à la réalisation des conditions prévues par l'<ref-law>. Tant que la personne concernée est en mesure de fixer les décisions de l'employeur ou, du moins, de les influencer, il n'est pas possible d'écarter un risque d'abus. De par sa position particulière, elle peut en effet exercer une influence sur la perte de travail qu'elle subit. C'est pourquoi, la jurisprudence est rigoureuse et ne reconnaît un droit au chômage que lorsque l'intéressé quitte définitivement l'entreprise en raison de la fermeture de celle-ci ou, en cas de continuation de l'entre-prise, lorsque celui-ci rompt définitivement tout lien avec la société (voir plus particulièrement <ref-ruling> consid. 7b/bb p. 238). Tel n'a pas été le cas du recourant qui a maintenu sa fonction d'administrateur vice-président et membre du comité jusqu'au mois d'octobre 2011. Au demeurant, il peut paraître discutable de retenir que l'appartenance de G._ au comité n'aurait eu strictement aucune influence dans son engagement par la coopérative alors que ce contrat de travail permettait justement au prénommé de réunir les quelques mois de cotisations qui lui manquaient, au moment de son licenciement par la société Y._, pour remplir la condition de la période de cotisation nécessaire de l'<ref-law>. Quoi qu'il en soit, dès lors que la possibilité pour le recourant d'user de ses pouvoirs légaux et statutaires en vue d'un éventuel réengagement par la coopérative après le dépôt de sa demande de chômage ne peut être exclue, le jugement entrepris n'est pas critiquable. Par ailleurs, contrairement à ce qu'il prétend, on ne voit pas que la jurisprudence conduirait à un résultat inique. A supposer qu'un assuré assume une fonction d'organe dans une société tierce parallèlement à une activité salariée et qu'il perde son emploi, la perte de travail qu'il subit sera indemnisée par le chômage à moins qu'il n'existe un motif susceptible de remettre en cause sa capacité et sa disposition d'accepter un emploi convenable. Ce cas de figure s'examine au regard des règles sur l'aptitude au placement (<ref-law>). Enfin, les autres arguments du recourant ne lui sont d'aucun secours. Celui-ci s'est annoncé à l'assurance-chômage le 10 mai 2010 à la fin de son engagement auprès de la coopérative, activité qui lui a permis de compléter la période de cotisation manquante. Il ne saurait donc se prévaloir des circonstances existantes au moment où il a perdu son emploi salarié auprès de Y._. Une prolongation du délai-cadre de cotisation au sens de l'<ref-law> n'entre pas non plus en ligne de compte vu que l'activité exercée au sein de la coopérative a été soumise à cotisation (<ref-law>; voir également BORIS RUBIN, Assurance-chômage, Droit fédéral, Survol des mesures cantonales, Procédure, 2ème éd., 2006, ch. 3.4.4.1.1, p. 138).
Il s'ensuit que le recours est mal fondé.
7. Vu l'issue du litige, le recourant supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal vaudois, Cour des assurances sociales, et au Secrétariat d'Etat à l'économie (SECO).
Lucerne, le 11 avril 2013
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Présidente: Leuzinger
La Greffière: von Zwehl