Faits: A. Le 1er mars 2010, à la réquisition de la Caisse Y._, l'Office des poursuites du district de La Riviera-Pays-d'Enhaut a notifié à X._ un commandement de payer, dans la poursuite n° xxxx, portant sur la somme de 350'855 fr. 35 sans intérêt, indiquant comme titre de la créance: "Solde de la réparation du dommage subi dans la faillite société A._ SA, selon notre décision du 15.02.2005, plan de paiement du 5 décembre 2008 non respecté". Le poursuivi a formé opposition totale. Le 22 mars 2010, la poursuivante a requis la mainlevée définitive de l'opposition, exposant que la poursuite était fondée sur sa décision du 15 février 2005, entrée en force et exécutoire en l'absence d'une opposition interjetée dans les délais légaux. Cette décision, produite à l'appui de la requête, avait été adressée au poursuivi sous pli LSI avec accusé de réception et l'invitait à verser dans les trente jours, en application de l'art. 52 LAVS, la somme de 435'100 fr. représentant des cotisations paritaires pour les années 1999 à 2004 relatives à la société A._ SA dont le poursuivi était administrateur. Accompagnée d'un décompte détaillant les cotisations dues pour chaque année, elle mentionnait la voie de droit de l'opposition à former dans les trente jours auprès de la caisse et était munie d'un timbre humide selon lequel aucune opposition n'avait été formée dans le délai imparti. Le poursuivi n'a pas procédé. Par prononcé rendu par défaut des parties le 8 juin 2010, le Juge de paix du district de La Riviera-Pays-d'Enhaut a rejeté la requête de mainlevée au motif que la poursuivante n'était pas au bénéfice d'une reconnaissance de dette signée par le poursuivi. B. Sur recours de la poursuivante, la Cour des poursuites et faillites du Tribunal cantonal vaudois a, par arrêt du 25 novembre 2010 notifié aux parties le 30 mars 2011, réformé le prononcé du juge de paix en ce sens que l'opposition au commandement de payer était définitivement levée. Ses motifs seront exposés ci-après dans la mesure utile. C. Par acte du 16 mai 2011, le poursuivi a saisi le Tribunal fédéral d'un recours en matière civile, subsidiairement de droit constitutionnel, assorti d'une demande d'effet suspensif et tendant au rejet de la requête de mainlevée d'opposition. Il critique les constatations de fait de l'arrêt attaqué en ce sens qu'elles seraient trop succinctes et invoque la violation des art. 80 et 82 LP, 2 et 8 CC, ainsi que, subsidiairement, celle des art. 9 et 29 Cst. Il dépose un certain nombre de pièces nouvelles. Le dépôt de réponses n'a pas été requis. La demande d'effet suspensif a été admise par ordonnance présidentielle du 8 juin 2011.