Faits:
A. Par courrier du 23 février 2010 adressé à la Justice de paix du district de la Riviera - Pays-d'Enhaut, le Juge d'instruction de l'arrondissement de l'Est vaudois a dénoncé A._, né le 8 juillet 1957, aux fins d'interdiction civile et placement à des fins d'assistance. Dans son courrier, le Juge d'instruction indiquait qu'il instruisait six enquêtes à l'endroit de l'intéressé pour vol, injures, menaces, dommages à la propriété, contravention contre l'intégrité sexuelle et incendie par négligence, et qu'il considérait que le comportement de l'inculpé nécessitait la mise en place d'un soutien tutélaire.
A l'appui de sa dénonciation, le Juge d'instruction a joint le rapport des médecins B._ et C._ de l'Hôpital de D._, du 17 février 2010, dont il résultait que A._ présentait depuis longtemps une pathologie psychiatrique, qui avait conduit à des hospitalisations répétées. L'intéressé avait aussi des difficultés relationnelles aggravées par une situation psycho-sociale précaire. Il avait une conscience limitée de sa maladie et supportait mal les contraintes liées à la prise en charge de ses problèmes psychiques. En particulier, il n'acceptait que partiellement les propositions de médication et de suivi de ses médecins, lesquels avaient estimé qu'il manifesterait très probablement à nouveau des troubles du comportement.
Consécutivement à la dénonciation du Juge d'instruction, la Justice de paix a également reçu communication du Journal de police du 19 janvier 2010, recensant les différents «actes pénaux dont s'était rendu coupable» A._ durant la période du 1er novembre 2009 au 12 janvier 2010. Une nouvelle enquête a été ouverte contre lui en raison d'une altercation survenue le 3 octobre 2010 avec des agents de police, au cours de laquelle il avait frappé ceux-ci avec un manche de pioche.
Selon un extrait de l'Office des poursuites du 24 mars 2011, A._ faisait par ailleurs l'objet d'actes de défaut de biens pour 10'943 fr. et de poursuites pour 13'875 fr. 55.
La Dresse E._ a déposé son rapport d'expertise le 5 septembre 2011. Selon ses conclusions, si l'intéressé avait besoin d'un suivi psychiatrique et d'un traitement de soutien psychosocial permanent qui pouvaient lui être dispensés dans le cadre d'une tutelle, une privation de liberté à des fins d'assistance ne lui était en revanche pas indiquée.
B. Par décision du 13 octobre 2011, la Justice de paix a, essentiellement, renoncé à ordonner le placement à des fins d'assistance de A._ (II), prononcé son interdiction civile et institué une mesure de tutelle à forme de l'art. 369 CC en sa faveur (III), enfin, nommé le Tuteur général en qualité de tuteur du pupille avec pour mission de gérer ses intérêts moraux et matériels et de le représenter auprès de tiers (IV).
Par arrêt du 9 mars 2012, la Chambre des tutelles du Tribunal cantonal du canton de Vaud a rejeté le recours formé par A._ et confirmé la décision rendue le 13 octobre 2011 par la Justice de paix. Selon l'autorité cantonale, l'intéressé souffre d'un trouble bipolaire, d'une probable structure psychotique de la personnalité et d'une dépendance à plusieurs substances (alcool, cocaïne). Il présente un danger pour lui-même et pour autrui, étant en effet prévenu de vol, d'injures, de menaces, de dommages à la propriété, de contravention contre l'intégrité sexuelle, d'incendie par négligence et de mise en danger d'autrui. De plus, il n'est pas en mesure de sauvegarder ses intérêts financiers, est durablement incapable de s'occuper de ses affaires et nécessite des soins, un secours permanent ainsi qu'une assistance personnelle étendue.
C. A._ exerce un recours en matière civile contre l'arrêt du 9 mars 2012. Il conclut à son annulation et au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants, après qu'une nouvelle expertise psychiatrique eut été mise en oeuvre à son sujet.
Il sollicite en outre le bénéfice de l'assistance judiciaire.
Des observations n'ont pas été requises sur le fond.
D. Par ordonnance du 26 juillet 2012, la Présidente de la cour de céans a refusé l'effet suspensif au recours.
Considérant en droit:
1. 1.1 Interjeté en temps utile (art. 100 al. 1 LTF), par une partie qui a pris part à la procédure devant l'autorité précédente et a un intérêt digne de protection à la modification de la décision attaquée (art. 76 al. 1 LTF), contre une décision finale (art. 90 LTF) prise en application de normes de droit public dans une matière connexe au droit civil (art. 72 al. 2 let. b ch. 6 LTF) par une autorité cantonale de dernière instance (art. 75 al. 1 LTF), le recours est en principe recevable.
1.2 Le recours en matière civile des art. 72 ss LTF étant une voie de réforme (art. 107 al. 2 LTF), la partie recourante ne peut, en principe, se borner à demander l'annulation de la décision attaquée et le renvoi de la cause à l'autorité cantonale; elle doit également, sous peine d'irrecevabilité, prendre des conclusions sur le fond du litige (arrêt 5A_414/2012 du 10 octobre 2012 consid. 1.2). Il n'est fait exception à cette règle que lorsque le Tribunal fédéral, en cas d'admission du recours, ne serait de toute manière pas en situation de statuer lui-même sur le fond et ne pourrait que renvoyer la cause à l'autorité cantonale (ATF 134 III 379 consid. 1.3),
En l'occurrence, cette exception est réalisée dans la mesure où le recourant, invoquant la violation de son droit d'être entendu, reproche en substance aux juges précédents d'avoir refusé de mettre en oeuvre une contre-expertise. En effet, l'admission de ce grief impliquerait nécessairement l'annulation de la décision attaquée et le renvoi de la cause à l'autorité cantonale. En tant qu'il soutient que celle-ci a arbitrairement établi les faits et violé indirectement la présomption d'innocence, la question peut rester indécise, ce grief étant de toute manière infondé (cf. infra, consid. 3).
1.3 Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de la juridiction précédente, ni par les moyens des parties (ATF 133 III 545 consid. 2.2). Compte tenu de l'exigence de motivation posée, sous peine d'irrecevabilité, à l'art. 42 al. 2 LTF, il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques qui peuvent se poser, lorsqu'elles ne sont plus discutées devant lui (ATF 135 III 397 consid. 1.4).
1.4 Le Tribunal fédéral conduit son raisonnement sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF); il ne peut s'en écarter que si ces faits ont été retenus de façon manifestement inexacte - à savoir arbitraire au sens de l'art. 9 Cst. - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui entend s'écarter des constatations de l'autorité précédente doit exposer de manière circonstanciée (cf. ATF 134 I 83 consid. 3.2 et les arrêts cités) en quoi les exceptions susmentionnées seraient réalisées; à défaut, le Tribunal fédéral ne saurait tenir compte d'un état de fait qui diverge de celui qui ressort de la décision attaquée (ATF 133 II 462 consid. 2.4; 133 IV 150 consid. 1.3).
2. Le recourant reproche à l'autorité cantonale d'avoir violé son droit d'être entendu, garanti par l'art. 29 al. 2 Cst., en refusant de donner suite à sa requête de contre-expertise psychiatrique.
2.1 La Chambre des tutelles a refusé d'ordonner la mise en oeuvre d'une nouvelle expertise car elle a estimé que les faits pertinents étaient suffisamment établis par celle du 5 septembre 2011 qui, bien qu'un temps considérable ait été pris pour la rédiger, n'en restait pas moins actuelle.
Il appert ainsi que l'autorité précédente n'a pas ordonné de contre-expertise à la suite d'une appréciation anticipée des preuves, procédé qui ne viole pas le droit d'être entendu (ATF 134 I 140 consid. 5.3; 129 III 18 consid. 2.6; 122 III 219 consid. 3c; 115 Ia 97 consid. 5b), étant précisé que le droit fédéral, et en particulier l'art. 374 al. 2 CC, n'impose en principe pas une seconde expertise (ATF 39 II 1 consid. 3; arrêt 5A_541/2010 du 1er octobre 2010 consid. 2.2). En effet, que le droit à la preuve soit fondé sur l'art. 29 al. 2 Cst. ou sur l'art. 8 CC, qui s'applique si les moyens de preuve sont invoqués en relation avec un droit subjectif privé découlant d'une norme de droit matériel fédéral (arrêt 5A_726/2009 du 30 avril 2010 consid. 3.1), le juge peut renoncer à une mesure d'instruction pour le motif qu'elle est manifestement inadéquate, porte sur un fait non pertinent ou n'est pas de nature à ébranler la conviction qu'il a acquise sur la base des éléments déjà recueillis. Savoir si l'autorité cantonale n'a pas pris en compte un moyen de preuve propre à modifier la décision relève de l'arbitraire dans l'appréciation des preuves et l'établissement des faits (art. 9 Cst.; arrêts 5A_ 460/2012 du 14 septembre 2012 consid. 2.1; 5A_726/2009 du 30 avril 2010 consid. 3.1, non publié in ATF 136 III 365; 131 I 153 consid. 3; 124 I 208 consid. 4a).
De jurisprudence constante, le Tribunal fédéral se montre réservé en matière de constatation des faits et d'appréciation des preuves, vu le large pouvoir qu'il reconnaît en ce domaine aux autorités cantonales (ATF 120 Ia 31 consid. 4b; 104 Ia 381 consid. 9 et les références; arrêt 5A_182/2012 du 24 septembre 2012 consid. 2.3). Il n'intervient, du chef de l'art. 9 Cst., que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans raisons objectives de tenir compte de preuves pertinentes ou a effectué, sur la base des éléments recueillis, des déductions insoutenables; encore faut-il que la décision en soit viciée dans son résultat (ATF 136 III 552 consid. 4.2 et les arrêts cités). La prohibition de l'arbitraire étant de rang constitutionnel, la partie recourante doit expressément soulever le grief et exposer de manière claire et circonstanciée, si possible documentée, en quoi ce droit fondamental a été violé (art. 106 al. 2 LTF; ATF 134 II 244 consid. 2.2).
2.2 En l'espèce, le recourant n'établit en rien le caractère arbitraire de l'appréciation des preuves à laquelle s'est livrée l'autorité cantonale. Il se borne à soutenir, en substance, qu'il a fallu à l'expert «plus de seize mois» pour établir son rapport, rendu le 5 septembre 2011, et que ledit rapport, basé sur un unique et bref entretien entre l'expert et lui qui a eu lieu le 28 avril 2010 [recte: le 28 octobre 2010], est basé sur un état de fait lacunaire et ne tient pas compte de l'évolution de sa situation. La Chambre des tutelles s'est toutefois exprimée sur ces points. Après avoir admis qu'il était regrettable qu'un «temps considérable» ait été pris pour réaliser l'expertise, elle a considéré que les conclusions du rapport n'en étaient pas moins actuelles et que l'intéressé ne démontrait pas que les circonstances qui avaient prévalu à l'établissement de celui-ci eussent changé depuis l'entretien du 28 octobre 2010. En effet, le 2 mai 2011, la personne qui avait accepté de l'héberger jusqu'à ce qu'il trouve un logement avait dû intervenir pour qu'il parte, en raison de son comportement perturbant et irrespectueux. Si ces faits n'atteignaient pas la gravité de ceux qui avaient donné lieu aux dénonciations pénales, ils étaient suffisamment importants pour être retenus et démontraient que les circonstances prises en considération à l'époque n'avaient pas fondamentalement changé. L'intéressé n'avait certes eu qu'un seul entretien avec l'expert. Il en portait toutefois la responsabilité puisqu'il ne s'était présenté à aucun des cinq rendez-vous fixés et avait dû être amené, pour l'entretien du 28 octobre 2010, de la prison où il était incarcéré. Selon les juges précédents, cet entretien avait permis à l'expert de faire des constatations suffisantes et de se déterminer utilement sur les questions posées.
Pour le recourant, même si l'expert n'est pas responsable du fait qu'il ne s'est pas présenté à toutes les convocations qui lui ont été adressées, il était semble-t-il tout de même du devoir de celui-ci de faire le nécessaire pour l'entendre à d'autres reprises, même contre sa volonté, afin que le rapport se fonde sur un portrait plus fidèle de sa personnalité. Il expose en outre que, le droit d'être entendu étant une garantie de nature formelle, le bien-fondé des conclusions de l'expertise n'avait pas à être matériellement remis en cause, contrairement à ce que prétend l'autorité cantonale. Ces développements, largement appellatoires, sont irrecevables dans cette mesure. Ainsi, lorsque le recourant soutient qu'il n'a pas été suffisamment entendu par l'expert, de sorte que celui-ci n'a pas pu se prononcer utilement, il se borne à opposer son opinion à celle de l'autorité précédente: ces allégations ne peuvent être prises en considération, faute d'être suffisamment motivées. Il en va de même en tant qu'il prétend que sa mésentente avec son logeur ne permet pas de remettre en cause son bon comportement. Enfin, tel est également le cas lorsqu'il affirme qu'en raison de l'écoulement du temps, il existe un décalage manifeste entre les faits relatés dans le rapport d'expertise et sa situation actuelle.
Vu ce qui précède, la cour cantonale pouvait admettre, sans arbitraire, que la conviction qu'elle avait acquise sur la base des preuves dont elle disposait ne serait pas ébranlée par le résultat de l'administration de la mesure probatoire requise, à savoir d'une nouvelle expertise psychiatrique. Le grief tombe dès lors à faux.
3. Dans un second grief, le recourant se plaint d'établissement arbitraire des faits et de violation indirecte de la présomption d'innocence. Il reproche à l'autorité cantonale d'avoir utilisé, pour justifier son interdiction, les faits pour lesquels il a été dénoncé pénalement, alors qu'aucun élément du dossier ne démontre que les plaintes déposées contre lui aient été suivies d'effets, se soient révélées fondées et aient débouché sur une condamnation.
La critique est à l'évidence infondée. Aux termes de l'art. 369 al. 1 CC, sera pourvu d'un tuteur tout majeur qui, pour cause de maladie mentale ou de faiblesse d'esprit, est incapable de gérer ses affaires, ne peut se passer de soins et secours permanents ou menace la sécurité d'autrui. Il suffit que le malade ou le faible d'esprit remplisse l'une de ces trois conditions pour être interdit. Or, l'autorité cantonale n'a pas uniquement retenu que l'intéressé présentait un danger non seulement pour lui-même, mais aussi pour les tiers, au motif qu'il était prévenu de vol, d'injures, de menaces, de dommages à la propriété, de contravention contre l'intégrité sexuelle, d'incendie par négligence et de mise en danger de la vie d'autrui. Elle a également considéré, en se fondant sur le rapport d'expertise psychiatrique, qu'il nécessitait des soins, un secours permanent et une assistance personnelle étendue que seule une tutelle était en mesure de lui procurer. Selon les juges précédents, il résultait en outre du dossier qu'il n'était pas capable de sauvegarder ses intérêts financiers.
La Chambre des tutelles a ainsi déduit des faits constatés que les trois conditions alternatives de la tutelle, à savoir l'incapacité durable de s'occuper de ses affaires, le besoin de soins et de secours permanents et la menace pour la sécurité d'autrui étaient réalisées dans le cas particulier, ce qui justifiait la mise sous tutelle de l'intéressé. Dès lors que le recourant ne critique que partiellement le raisonnement de l'autorité cantonale, sans remettre en cause la réalisation de toutes les conditions de l'art. 369 al. 1 CC retenues par cette juridiction, notamment celle de l'incapacité de gérer sa situation financière, son grief ne saurait être admis. Au demeurant, contrairement à ce que soutient le recourant, le sort réservé aux procédures pénales en cours contre lui est sans pertinence. Le juge civil établit les faits selon les règles de la procédure civile et ne saurait, le cas échéant, attendre l'issue de procédures pénales avant de rendre les décisions tutélaires qui s'imposent. En l'occurrence, les critiques du recourant fondées sur la présomption d'innocence, de nature théorique, ne sont pas propres à démontrer que la Chambre des tutelles aurait arbitrairement retenu des faits non établis, en tenant compte des différentes préventions dont l'intéressé fait l'objet sur le plan pénal; au reste, le recourant ne s'exprime pas sur les faits qu'il prétend inexacts. Il n'émet pas non plus de critique motivée (art. 106 al. 2 LTF) sur les comportements qui lui sont reprochés et qu'il n'aurait pas adoptés. Autant qu'il est recevable, le moyen est ainsi infondé.
4. Le recours doit par conséquent être rejeté, dans la mesure où il est recevable. Comme ses conclusions étaient d'emblée vouées à l'échec, la requête d'assistance judiciaire du recourant ne peut être agréée (art. 64 al. 1 LTF). Celui-ci supportera dès lors les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire du recourant est rejetée.
3. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux participants à la procédure et à la Chambre des tutelles du Tribunal cantonal du canton de Vaud.
Lausanne, le 5 décembre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Mairot