Faits:
A. Par décision du 16 octobre 2006, la Justice de paix du district de Nyon a institué une tutelle volontaire en faveur de A._, né en 1977, et lui a désigné la Tutrice générale en qualité de tutrice.
Le 2 septembre 2009, la Tutrice générale a ordonné le placement d'urgence à des fins d'assistance de A._ à l'EMS X._. Elle a invoqué les motifs de déni total de son état de santé, de mise en danger personnelle ainsi que de comportement inadapté.
La Justice de paix du district de Nyon a, par décision du 8 novembre 2010, rejeté la demande de mainlevée de l'interdiction civile volontaire formée par A._, confirmé la Tutrice générale dans ses fonctions et, statuant sur recours, maintenu le placement d'urgence à des fins d'assistance.
B. L'intéressé a interjeté un recours, portant sur la mesure de placement, ainsi qu'un appel, portant sur le maintien de l'interdiction volontaire auprès de la Chambre des tutelles du Tribunal cantonal du canton de Vaud, qui les a rejetés par arrêt du 23 février 2011, notifié le 8 avril 2011.
C. Le 10 mai 2011, A._ exerce un recours en matière civile et un recours constitutionnel subsidiaire contre cet arrêt. Il conclut à la levée de la mesure de placement et de celle d'interdiction volontaire ainsi que requiert le versement de dommages-intérêts et d'indemnités pour tort moral. Le recourant sollicite également l'octroi de l'effet suspensif et la jonction de la cause avec une procédure de recours qu'il aurait engagée contre une décision de sa tutrice concernant l'inexécution d'un contrat de vente.
Les requêtes d'effet suspensif et de jonction de causes ont été rejetées par ordonnance présidentielle du 13 mai 2011.
Invitées à se déterminer sur le recours, la Justice de paix du district de Nyon a renoncé et la Chambre des tutelles du Tribunal cantonal du canton de Vaud s'est référée aux considérants de son arrêt.
Considérant en droit:
1. Interjeté en temps utile, compte tenu de la suspension des délais (art. 46 al. 1 let. a et 100 al. 1 LTF), ainsi que dans les formes légales (art. 42 al. 1 et 2 LTF), par une partie qui a été déboutée en dernière instance cantonale (art. 76 al. 1 LTF et art. 75 al. 1 LTF), contre une décision finale (art. 90 LTF), prise en application des normes de droit public, en matière d'interdiction et de privation de liberté à des fins d'assistance (art. 72 al. 2 let. b ch. 6 LTF), le recours en matière civile est recevable. Il s'ensuit que le recours constitutionnel subsidiaire n'est pas ouvert (art. 113 LTF).
2. 2.1 Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il ne connaît cependant de la violation des droits fondamentaux que si ce grief a été soulevé et motivé par le recourant (art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2; 133 II 249 consid. 1.4.2). Le recourant doit ainsi indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer, par une argumentation précise, en quoi consiste la violation (ATF 133 IV 286 consid. 1.4; 133 II 249 consid. 1.4.2). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 133 II 396 consid. 3).
2.2 Le recours au Tribunal fédéral ne peut pas être interjeté pour violation du droit cantonal en tant que tel, mais il est possible de faire valoir qu'une mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (ATF 134 II 349 consid. 3; 133 III 462 consid. 2.3).
2.3 Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui entend invoquer que les faits ont été établis de manière manifestement inexacte (art. 97 al. 1 LTF), c'est-à-dire que les constatations de fait sont arbitraires au sens de l'art. 9 Cst. (ATF 133 II 249 consid. 1.2.2), doit satisfaire au principe d'allégation susmentionné (consid. 2.1). Les faits et moyens de preuve nouveaux sont prohibés, à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
Dans le domaine de l'appréciation des preuves et la constatation des faits, le Tribunal fédéral se montre réservé, vu le large pouvoir qu'il reconnaît en la matière à l'autorité cantonale (ATF 120 Ia 31 consid. 4b; 104 Ia 381 consid. 9 et les références citées). Il n'intervient, du chef de l'art. 9 Cst., que si l'autorité cantonale n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans raison objective de tenir compte de preuves pertinentes ou a effectué, sur la base des éléments recueillis, des déductions insoutenables (ATF 129 I 8 consid. 2.1; 127 I 38 consid. 2a; cf. aussi ATF 133 II 249 consid. 1.4.3).
3. Le recourant réclame tout d'abord qu'il ne soit pas tenu compte du rapport d'expertise du 25 mai 2010, rendu au-delà du délai imparti, et qu'un nouvel expert plus qualifié soit nommé. Il se plaint d'une violation de l'art. 224 al. 2 aCPC/VD faisant valoir que l'expert n'a pas effectué son rapport avec la diligence requise.
3.1 À teneur de l'art. 224 aCPC/VD, l'expert doit exécuter son mandat en toute conscience et observer une parfaite impartialité (al. 1); le juge lui fixe un délai pour le dépôt de son rapport, avec avis que s'il outrepasse ce délai, sa mission sera terminée sans qu'il puisse prétendre à aucune indemnité (al. 2); le délai fixé peut être librement prolongé (al. 3). Selon la doctrine, la révocation du mandat et la perte du droit à toute rémunération ne sont prononcées qu'exceptionnellement et ne se justifient notamment pas en cas de retard peu important (POUDRET/HALDY/TAPPY, Procédure civile vaudoise, 2002, n. 2 ad art. 224 CPC/VD). Ces mesures sont en effet bien souvent dépourvues d'efficacité réelle, le remplacement de l'expert pouvant constituer un remède pire que le mal et la sanction possible n'étant souvent pas de nature à aiguillonner un expert peu diligent (BERTOSSA/GAILLARD/GUYET/ SCHMIDT, Commentaire de la loi de procédure civile genevoise, n. 1 ad art. 263 LPC/GE).
3.2 La cour cantonale a considéré que les experts nommés étaient des spécialistes en psychiatrie remplissant les exigences jurisprudentielles pour assumer leur fonction. Regrettant que la Justice de paix n'ait pas statué plus rapidement, elle a cependant estimé que l'on ne saurait reconnaître l'existence d'un déni de justice dès lors que l'expertise ordonnée était également nécessaire pour statuer sur la levée de l'interdiction volontaire demandée par le recourant, que les conditions matérielles de la privation de liberté à des fins d'assistance avaient toujours été réalisées et que le recourant pouvait en tout temps demander la levée de la mesure.
3.3 Le recourant ne s'en prend pas aux considérants de l'arrêt cantonal de manière satisfaisant aux exigences de motivation sur ce point (cf. consid. 2.2 supra). Il ne prétend notamment pas que l'application du droit cantonal en l'espèce procéderait de l'arbitraire au sens de l'art. 9 Cst. ou serait contraire à d'autres droits constitutionnels, en particulier qu'il y aurait un déni de justice. Il n'y a donc pas lieu d'entrer en matière. Cela étant, même s'il est fort regrettable que la procédure de recours devant la Justice de paix ait duré plus d'un an, il n'était pas insoutenable, en l'espèce, de ne pas révoquer le mandat des experts; au contraire, une telle mesure aurait probablement encore prolongé une procédure qui n'avait que trop duré.
4. Dans un second grief, le recourant conteste que son état de santé au moment de sa sortie de l'hôpital de Y._ justifiât son placement d'urgence à des fins d'assistance. Il se plaint d'une violation de l'art. 8 CC, affirmant que les motifs invoqués par sa tutrice sont infondés, mensongers, voire calomnieux.
4.1 Aux termes de l'art. 397a al. 1 CC, une personne majeure ou interdite peut être placée ou retenue dans un établissement approprié lorsque, en raison de maladie mentale, de faiblesse d'esprit, d'alcoolisme, de toxicomanie ou de grave état d'abandon, l'assistance personnelle nécessaire ne peut lui être fournie d'une autre manière. La privation de liberté ne peut être décidée que si, en raison de l'une de ces causes énumérées de manière exhaustive (ATF 134 III 289 consid. 4; FF 1977 III 28 s.), l'intéressée a besoin d'une assistance personnelle, c'est-à-dire présente un état qui exige qu'une aide lui soit fournie, que des soins lui soient donnés et qu'une protection au sens étroit lui soit assurée (DESCHENAUX/STEINAUER, Personnes physiques et tutelle, 2001, n. 1169 s.). Il faut en outre, conformément au principe de la proportionnalité, que la protection nécessaire ne puisse être réalisée autrement que par une mesure de privation de liberté, c'est-à-dire que d'autres mesures, telles que l'aide de l'entourage, l'aide sociale ou un traitement ambulatoire, aient été ou paraissent d'emblée inefficaces (DESCHENAUX/STEINAUER, op. cit., n. 1171 s.; s'agissant du principe de proportionnalité: cf. ATF 126 I 112 consid. 5b).
4.2 Se fondant sur le rapport d'expertise du 25 mai 2010 corroboré par la détermination de la tutrice du 24 janvier 2011, la cour cantonale a constaté que le recourant souffrait de schizophrénie paranoïde, rémission incomplète, et qu'il avait besoin de soins permanents. Par ailleurs, elle a noté qu'il nécessitait un encadrement par des personnes qualifiées, dans un lieu sécurisant, d'autant que, anosognosique par rapport à sa maladie et envisageant toujours d'arrêter sa médication, il était incapable d'adhérer à l'assistance de tiers. La juridiction a également relevé que le recourant pouvait être dangereux pour lui-même et pour les autres, faisant référence à une tentative d'explosion de son appartement au gaz. Elle a ainsi considéré que seul un placement du recourant dans un établissement approprié était à même de lui fournir les soins et l'assistance personnelle dont il avait besoin de sorte que la mesure devait être maintenue.
4.3 Lorsque le recourant invoque une violation de l'art. 8 CC, il se plaint en réalité de l'appréciation des preuves et de la constatation des faits. À ce sujet, il prétend, faisant référence à une attestation médicale - indiquant qu'il a été hospitalisé à Y._ dans le but d'évaluer son état de santé et son traitement médicamenteux et qu'il en est sorti à la date de son transfert à l'EMS X._ - avoir quitté l'hôpital en bonne santé de sorte que les motifs invoqués par sa tutrice pour prononcer son placement d'urgence à des fins d'assistance seraient infondés. Par ces affirmations, le recourant se borne à remettre en cause les constatations de l'autorité cantonale relatives à son état de santé et à la nécessité d'un traitement, mais ne démontre nullement en quoi la solution arrêtée par les juges cantonaux serait insoutenable (art. 106 al. 2 LTF). En conséquence, sur la base des constatations de fait de l'arrêt cantonal, dont le recourant n'est pas parvenu à démontrer le caractère arbitraire, la privation de liberté ordonnée en l'espèce se révèle conforme à l'art. 397a CC en raison des troubles psychiques, dont souffre le recourant, lesquels rendent nécessaires des soins et une assistance dans un établissement approprié. Le recours doit dès lors être rejeté dans la mesure de sa recevabilité sur ce point.
5. En tant que le recourant se plaint de ce que la cour cantonale n'a pas statué sur ses conclusions en versement de dommages-intérêts et d'indemnités pour tort moral, son grief est irrecevable. D'une part, la juridiction a relevé que l'autorité tutélaire n'était pas compétente pour statuer sur les requêtes fondées sur l'art. 429a CC, qui relevaient de la compétence du juge ordinaire; or, le recourant ne s'en prend nullement à cette considération ni n'invoque que la cour cantonale aurait appliqué arbitrairement le droit cantonal d'organisation judiciaire. D'autre part, le recourant n'étant pas parvenu à démontrer que la privation de liberté à des fins d'assistance était injustifiée, les conditions d'application de l'art. 429a CC ne seraient de toute façon pas réunies.
6. S'agissant de la demande de levée de l'interdiction volontaire, le recourant invoque que la cause à l'origine de la mesure n'existe plus.
6.1 En vertu de l'art. 438 CC, la mainlevée de l'interdiction prononcée à la requête de l'interdit ne peut être ordonnée que si la cause de la mise sous tutelle n'existe plus. Il ne suffit donc pas que l'interdit forme une requête de mainlevée (DESCHENAUX/STEINAUER, op. cit., n. 1034). Une interdiction volontaire ne peut être prononcée qu'en faveur d'une personne empêchée de gérer convenablement ses affaires par suite de faiblesse sénile, de quelque infirmité ou de son inexpérience (art. 372 CC). Les troubles psychiques ou caractériels, assimilés à une infirmité, peuvent être moins graves qu'en cas d'interdiction non volontaire (ATF 99 II 15 consid. 1; DESCHENAUX/STEINAUER, op. cit., n. 143).
6.2 En l'espèce, la cour cantonale a constaté, se référant à l'expertise du 25 mai 2010, que l'affection dont souffre le recourant est modérément stabilisée sous traitement, notamment grâce à la structure spécialisée avec encadrement et personnel qualifié, dans laquelle il vit. En outre, elle a relevé que ces troubles sont de nature, en cas d'interruption du traitement ou de traitement inadéquat, à l'empêcher d'apprécier la portée de ses actes et de gérer ses affaires sans les compromettre. Elle en a déduit que tant la cause que la condition de l'interdiction demeuraient réalisées. De plus, sous l'angle de la proportionnalité, la juridiction a considéré que le recourant nécessitait une assistance personnelle et administrative et qu'une mesure moins incisive ne serait pas à même de garantir sa protection, compte tenu de son anosognosie et de son incapacité à adhérer à l'assistance qui lui est apportée. Elle en a conclu qu'il n'y avait pas lieu de lever l'interdiction civile du recourant. Le recourant prétend qu'il est autonome et indépendant et ne nécessite pas d'attention particulière du personnel soignant, précisant qu'il gère lui-même son budget et effectue seul ses courses. Selon lui, la mesure serait donc inutile et gênante dans l'optique de trouver du travail et un logement. Par ces affirmations, le recourant s'écarte des faits constatés, présentant sa propre appréciation de son état de santé et de la nécessité de la mesure sans démontrer en quoi les faits constatés par les juges cantonaux seraient insoutenables (art. 106 al. 2 LTF). Partant, sa critique est irrecevable faute de motivation suffisante.
7. Sur le vu de ce qui précède, le recours doit être rejeté, dans la faible mesure de sa recevabilité. Dans les circonstances données, il se justifie de renoncer à percevoir un émolument judiciaire (art. 66 al. 1 2ème phr. LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Il n'est pas perçu de frais judiciaires.
3. Le présent arrêt est communiqué au recourant, à la Justice de paix du district de Nyon et à la Chambre des tutelles du Tribunal cantonal du canton de Vaud.
Lausanne, le 1er juin 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Hohl Richard