Faits:
A. A._ a déposé une plainte pénale contre un médecin qui l'avait fait hospitaliser dans un établissement psychiatrique. Dans le cadre de cette procédure, il a requis l'assistance judiciaire gratuite. Par décision du 12 juillet 2011, le Ministère public de l'arrondissement de la Côte a rejeté cette requête. Le 18 juillet 2011, A._ a contesté cette décision devant la Chambre des recours pénale du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal). Le même jour, A._ a adressé une demande de récusation au Procureur du Ministère public de l'arrondissement de la Côte. Par courrier du 19 juillet 2011, le magistrat visé a transmis la requête au Tribunal cantonal, en précisant qu'il s'opposait à la demande de récusation. Le dossier ne permet pas de déterminer si ce courrier a été communiqué à A._.
Par arrêt du 30 août 2011, le Tribunal cantonal a rejeté tant la demande de récusation que le recours contre la décision du 12 juillet 2011. Il a considéré que ce recours était manifestement mal fondé et que le Ministère public avait refusé à juste titre l'assistance judiciaire compte tenu des faibles chances de succès de la cause.
B. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler cet arrêt. Il se plaint d'un déni de justice et d'une violation de son droit d'être entendu. Il requiert en outre l'octroi de l'assistance judiciaire. Le Tribunal cantonal a présenté des observations, s'en remettant à justice sur le sort du recours. Le Ministère public ne s'est pas déterminé. Le recourant a renoncé à formuler des observations complémentaires.
Considérant en droit:
1. Conformément à l'art. 78 LTF, une décision relative à la défense d'office dans une cause pénale peut faire l'objet d'un recours en matière pénale. Le refus de désigner un avocat d'office au prévenu est susceptible de lui causer un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF (ATF 133 IV 335 consid. 4 p. 338 et les références). De plus, conformément aux art. 78 et 92 al. 1 LTF, les décisions incidentes de dernière instance cantonale portant sur une demande de récusation dans une cause pénale peuvent immédiatement faire l'objet d'un recours en matière pénale. Le recourant, auteur de la demande de désignation d'un défenseur d'office et de la demande de récusation, a qualité pour agir (art. 81 al. 1 LTF). Pour le surplus, le recours est formé en temps utile (art. 100 al. 1 LTF) contre une décision rendue en dernière instance cantonale (art. 80 LTF) et les conclusions présentées sont recevables au regard de l'art. 107 al. 2 LTF.
2. Invoquant une violation de son droit d'être entendu, le recourant reproche à la cour cantonale d'avoir omis de lui transmettre les déterminations du procureur visé par la demande de récusation.
2.1 Compris comme l'un des aspects de la notion générale de procès équitable au sens des art. 29 Cst. et 6 CEDH, le droit d'être entendu garantit notamment le droit pour une partie à un procès de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Il appartient en effet aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part. Ce droit à la réplique vaut pour toutes les procédures judiciaires. Toute prise de position ou pièce nouvelle versée au dossier doit dès lors être communiquée aux parties pour leur permettre de décider si elles veulent ou non faire usage de leur faculté de se déterminer (ATF 133 I 100 consid. 4.3 ss p. 102 ss, 98 consid. 2.2 p. 99; 132 I 42 consid. 3.3.2 - 3.3.4 p. 46 s.; cf. en outre les arrêts de la Cour européenne des droits de l'homme dans les causes Schaller-Bossert c. Suisse du 28 octobre 2010 § 39 s. et Nideröst-Huber c. Suisse du 18 février 1997, Recueil CourEDH 1997-I p. 101 § 24 ss).
2.2 En l'occurrence, le procureur s'est déterminé sur la demande de récusation par une lettre du 19 juillet 2011 adressée au Tribunal cantonal. Il ne ressort pas du dossier cantonal que cette lettre - dont l'arrêt attaqué fait état - ait été communiquée au recourant pour qu'il puisse en prendre connaissance et décider si elle appelait ou non une détermination de sa part. Dans ses observations, le Tribunal cantonal n'allègue pas le contraire, mais il se limite à relever qu'"il n'a pas été constaté que le courrier n'avait pas été transmis en copie à l'avocat du recourant". Dans ces conditions, il y a lieu de retenir que le courrier en question n'a pas été communiqué au recourant, qui n'a dès lors pas eu l'occasion de se déterminer sur les observations du procureur visé par la demande de récusation, ce qui contrevient aux principes jurisprudentiels susmentionnés. Le droit d'être entendu du recourant a donc été violé, de sorte que le recours doit être admis pour ce motif, la violation en question ne pouvant pas être guérie devant le Tribunal fédéral (cf. arrêt 1B_269/2011 du 20 juin 2011, consid. 2.3 et les références citées). La cause sera renvoyée à la cour cantonale pour qu'elle statue à nouveau, après avoir donné la possibilité au recourant de se déterminer sur la prise de position du procureur dont il demande la récusation.
3. Dans un deuxième grief, le recourant allègue que le Tribunal cantonal a commis un déni de justice prohibé par l'art. 29 al. 1 Cst. en omettant de statuer sur la demande d'assistance judiciaire formulée pour la procédure cantonale de recours.
3.1 Selon la jurisprudence, commet un déni de justice formel et viole l'art. 29 al. 1 Cst. l'autorité qui ne statue pas ou n'entre pas en matière sur un recours ou un grief qui lui est soumis dans les formes et délai légaux, alors qu'elle était compétente pour le faire (ATF 135 I 6 consid. 2.1 p. 9; 134 I 229 consid. 2.3 p. 232; 124 V 130 consid. 4 p. 133; 117 Ia 116 consid. 3a p. 117; arrêts 2D_68/2009 du 26 janvier 2010 consid. 3.1; 1C_317/2009 du 15 janvier 2010 consid. 3.1 et les références citées). Le droit d'être entendu, garanti par l'art. 29 al. 2 Cst. implique en outre pour l'autorité l'obligation de motiver sa décision; elle peut toutefois se limiter aux questions décisives pour l'issue du litige (ATF 134 I 83 consid. 4.1 p. 88; 133 III 439 consid. 3.3 p. 445; 130 II 530 consid. 4.3 p. 540 et les arrêts cités).
3.2 En l'espèce, dans le recours qu'il a adressé le 18 juillet 2011 au Tribunal cantonal, le recourant a requis l'assistance judiciaire et demandé la désignation d'un avocat d'office pour la procédure de recours devant cette instance. L'arrêt attaqué ne répond pas expressément à cette requête. La cour cantonale a cependant confirmé le refus du procureur d'accorder l'assistance judiciaire, en considérant notamment que les chances pour le recourant d'obtenir gain de cause étaient nettement inférieures à celles de voir sa demande rejetée. Il a en outre conclu en relevant que le recours "manifestement mal fondé" devait être rejeté sans autres échanges d'écritures et il a mis les frais à la charge du recourant. On comprend donc que le Tribunal cantonal a considéré que le recourant n'avait pas droit à l'assistance judiciaire dans la procédure de recours, mais il eût été préférable, pour satisfaire aux exigences susmentionnées, d'en faire état dans les considérants de l'arrêt et de rejeter formellement la requête d'assistance judiciaire. Quoi qu'il en soit, le Tribunal cantonal aura l'occasion d'examiner à nouveau cette requête dans le cadre du nouvel arrêt à rendre en raison de la violation du droit d'être entendu constatée précédemment.
4. Il s'ensuit que le recours doit être admis et l'arrêt attaqué annulé. La cause est renvoyée au Tribunal cantonal pour qu'il rende une nouvelle décision prise dans le respect du droit à la réplique défini ci-dessus et pour qu'il statue sur la requête d'assistance judiciaire. Il n'y a pas lieu de percevoir de frais judiciaires (art. 66 al. 4 LTF). L'Etat de Vaud versera en revanche une indemnité de dépens au recourant, qui obtient gain de cause avec l'assistance d'un avocat (art. 68 al. 1 LTF). Vu l'issue du recours, la demande d'assistance judiciaire est sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et l'arrêt attaqué est annulé. La cause est renvoyée à la Chambre des recours pénale du Tribunal cantonal du canton de Vaud pour nouvelle décision dans le sens des considérants.
2. Il n'est pas perçu de frais judiciaires.
3. Une indemnité de 2'000 fr. est allouée au recourant à titre de dépens, à la charge de l'Etat de Vaud.
4. Le présent arrêt est communiqué au mandataire du recourant, au Ministère public de l'arrondissement de la Côte, par le Ministère public central du canton de Vaud, et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 30 janvier 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Rittener