Faits:
A. L'Office régional du ministère public du Valais central (ci-après: le Ministère public) instruit une enquêtes contre A._ pour escroquerie et tentative d'escroquerie. Il est en substance reproché au prénommé d'avoir tenté de soutirer la somme de 10'000 euros à une nonagénaire le 14 mai 2010 et de s'être fait remettre 5'000 fr. par cette dame le 7 juillet 2010. Le 19 janvier 2011, l'intéressé a été entendu par la police en présence de son avocate.
Le 20 janvier 2011, A._ a requis l'assistance judiciaire et demandé qu'un conseil d'office lui soit désigné en la personne de Me Flore Primault. Par ordonnance du 2 février 2011, le Ministère public a prononcé un refus d'entrer en matière, en considérant notamment que le prévenu avait réparé le dommage, que sa culpabilité et les conséquences de son acte étaient peu importantes et qu'il avait de surcroît exprimé des regrets. Par ordonnance séparée du même jour, le Ministère public a rejeté la requête d'assistance judiciaire.
B. Saisi d'un recours de A._, le Juge de la Chambre pénale du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a confirmé cette décision par ordonnance du 6 octobre 2011. Il a notamment considéré qu'il ne s'agissait pas d'un cas de défense obligatoire au sens de l'art. 130 du code de procédure pénale suisse (CPP; RS 312.0) et que la cause ne présentait pas des difficultés de fait ou de droit justifiant l'assistance d'un défenseur (<ref-law>).
C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler cette ordonnance et de lui octroyer l'assistance judiciaire dès le 19 janvier 2011, en désignant Me Flore Primault en qualité de défenseur d'office. Il conclut subsidiairement au renvoi de la cause à la juridiction cantonale pour nouvelle décision. Il requiert en outre l'octroi de l'assistance judiciaire devant le Tribunal fédéral. Le Ministère public et le Tribunal cantonal ont renoncé à se déterminer.

Considérant en droit:
1. Conformément à l'<ref-law>, une décision relative à la défense d'office dans une cause pénale peut faire l'objet d'un recours en matière pénale. Le recourant, prévenu et auteur de la demande de désignation d'un défenseur d'office, a qualité pour agir (<ref-law>). Le refus de désigner un avocat d'office au prévenu est susceptible de lui causer un préjudice irréparable au sens de l'<ref-law> (<ref-ruling> consid. 4 p. 338 et les références). Pour le surplus, le recours est formé en temps utile (<ref-law>) contre une décision rendue en dernière instance cantonale (<ref-law>) et les conclusions présentées sont recevables au regard de l'<ref-law>.
2. Le recourant soutient que les conditions de la défense obligatoire au sens de l'art. 130 let. c CPP sont réunies et qu'une défense d'office s'imposait pour défendre ses intérêts conformément à l'<ref-law>.
2.1 La défense obligatoire est réglée par l'<ref-law>, dont la lettre c prévoit que le prévenu doit avoir un défenseur lorsqu'en raison de son état physique ou psychique ou pour d'autres motifs, il ne peut pas suffisamment défendre ses intérêts dans la procédure et ses représentants légaux ne sont pas en mesure de le faire. Quant à l'<ref-law>, qui traite de la défense d'office, il a la teneur suivante:
1 La direction de la procédure ordonne une défense d'office:
a. en cas de défense obligatoire:
1. si le prévenu, malgré l'invitation de la direction de la procédure, ne désigne pas de défenseur privé,
2. si le mandat est retiré au défenseur privé ou que celui-ci a décliné le mandat et que le prévenu n'a pas désigné un nouveau défenseur dans le délai imparti;
b. si le prévenu ne dispose pas des moyens nécessaires et que l'assistance d'un défenseur est justifiée pour sauvegarder ses intérêts.
2 La défense d'office aux fins de protéger les intérêts du prévenu se justifie notamment lorsque l'affaire n'est pas de peu de gravité et qu'elle présente, sur le plan des faits ou du droit, des difficultés que le prévenu seul ne pourrait pas surmonter.
3 En tout état de cause, une affaire n'est pas de peu de gravité lorsque le prévenu est passible d'une peine privative de liberté de plus de quatre mois, d'une peine pécuniaire de plus de 120 jours-amende ou d'un travail d'intérêt général de plus de 480 heures.
2.2 Selon la systématique de l'<ref-law>, la défense d'office doit être ordonnée non seulement en cas de défense obligatoire au sens de l'<ref-law> si les conditions de l'<ref-law> sont réalisées, mais aussi hors des cas de défense obligatoire, aux conditions de l'<ref-law>. En d'autres termes, un défenseur d'office peut être désigné également dans les cas de défense facultative (cf. arrêt 1B_195/2011 du 28 juin 2011, consid. 3.1 non publié aux <ref-ruling>). Pour qu'une défense d'office soit ordonnée dans un cas de défense facultative, il faut que les conditions posées par l'<ref-law> - et précisées par l'art. 132 al. 2 et 3 CPP - soient réunies. Ces conditions reprennent largement la jurisprudence du Tribunal fédéral en matière d'assistance judiciaire. Selon cette jurisprudence, rendue sur la base des art. 29 al. 3 Cst. et 6 par. 3 let. c CEDH, la désignation d'un défenseur d'office dans une procédure pénale est nécessaire lorsque le prévenu est exposé à une longue peine privative de liberté ou s'il est menacé d'une peine qui ne peut être assortie du sursis. Elle peut aussi l'être, selon les circonstances, lorsque le prévenu encourt une peine privative de liberté de quelques semaines à quelques mois si, à la gravité relative du cas, s'ajoutent des difficultés particulières du point de vue de l'établissement des faits ou des questions juridiques soulevées qu'il ne serait pas en mesure de résoudre seul (<ref-ruling> consid. 2.5.2 p. 232 s.; <ref-ruling> consid. 2a p. 44 et les références citées).
Si les deux conditions mentionnées à l'<ref-law> doivent être réunies cumulativement, il n'est pas exclu que l'intervention d'un défenseur soit justifiée par d'autres motifs, comme l'indique l'adverbe "notamment". La doctrine mentionne en particulier les cas où la désignation d'un défenseur est nécessaire pour garantir l'égalité des armes, ou parce que l'issue de la procédure pénale a une importance particulière pour le prévenu, par exemple s'il est en détention, s'il encourt une révocation de l'autorisation d'exercer sa profession ou s'il risque de perdre la garde de ses enfants (cf. MAURICE HARARI/TATIANA ALIBERTI, in Commentaire romand CPP, 2011, n. 64 ad art. 132; VIKTOR LIEBER, in Donatsch/Hansjakob/Lieber (éd.), Kommentar zur Schweizerischen Strafprozessordnung, 2010, n. 16 ad art. 132; NIKLAUS RUCKSTUHL, in Basler Kommentar StPO, 2011, n. 36 ad art. 132).
2.3 En l'occurrence, le Tribunal cantonal a estimé que le prévenu ne pouvait pas prétendre à une défense d'office sur la base de l'<ref-law> dès lors qu'il était assisté d'un défenseur privé dès sa première audition et qu'il ne souffrait au demeurant d'aucune incapacité au sens de l'art. 130 let. c CPP. Il ne pouvait pas non plus se fonder sur l'<ref-law> dans la mesure où la cause ne présentait pas de difficultés particulières du point de vue des faits ou du droit.
Cette dernière appréciation peut être confirmée d'emblée, l'absence de difficultés de la cause n'étant du reste pas véritablement contestée par le recourant. En revanche, l'application de l'art. 130 let. c CPP est remise en question, le recourant soutenant qu'il n'était "pas en état psychique" de défendre ses intérêts et qu'il ne parlait et comprenait que partiellement le français. Ces affirmations ne sont toutefois guère étayées. Contrairement à ce que soutient le recourant, sa mise sous tutelle ne suffit pas à démontrer une prétendue incapacité psychique. De plus, comme le relève le Tribunal cantonal, les manoeuvres de l'intéressé pour soutirer de l'argent à la victime démontrent une certaine maîtrise de la langue française. Quoi qu'il en soit, la tutrice du recourant était en mesure de défendre efficacement ses intérêts - au sens de l'art. 130 let. c CPP - dans cette procédure simple, qui s'est terminée par un refus d'entrer en matière. Elle a d'ailleurs entrepris les démarches nécessaires pour réparer le dommage causé par le recourant, ce qui a permis cette issue de la procédure favorable pour lui. C'est dès lors en vain que le recourant prétend que sa tutrice était incapable de défendre ses intérêts dès lors qu'elle a fait appel à une avocate. En définitive, le refus de désigner un défenseur d'office au recourant peut être confirmé, de sorte qu'il n'y a pas lieu d'examiner le grief relatif au dies a quo de l'assistance judiciaire.
3. ll n'y a pas lieu d'accorder l'assistance judiciaire, dès lors que les conclusions du recours apparaissaient d'emblée vouées à l'échec (<ref-law>). Le recourant, qui succombe, doit par conséquent supporter les frais de la présente procédure, qui seront réduits pour tenir compte de sa situation financière (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué à la mandataire du recourant, à l'Office régional du ministère public du Valais central et au Juge de la Chambre pénale du Tribunal cantonal du canton du Valais.
Lausanne, le 4 janvier 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Rittener