Faits:
A. Le 4 mai 2012, A._ a déposé une plainte pénale contre inconnu pour violation de domicile, reprochant à des agents de police de s'être introduits dans son appartement - son fils s'étant inquiété de son absence - et d'y avoir découvert de la drogue, ce qui avait donné lieu à l'ouverture d'une procédure pénale à son encontre. Le plaignant demandait l'assistance judiciaire, qui a été refusée par le Procureur de l'arrondissement de La Côte, le 25 mai 2012.
B. Par arrêt du 3 août 2012, la Chambre des recours pénale du Tribunal cantonal vaudois a partiellement admis le recours formé par A._. Ce dernier étant indigent, l'assistance judiciaire lui a été accordée sous la forme de l'exonération d'avance de frais et de sûretés. En revanche, la désignation d'un conseil juridique a été refusée car l'affaire n'était pas suffisamment complexe puisque les prétentions civiles se limitaient à la réparation du dommage causé à la porte de l'appartement et à l'indemnisation du tort moral dû à l'atteinte à la sphère privée; le dommage résultant de l'ouverture d'une instruction pénale et de la détention pouvait être réparé sur la base de l'art. 429 CPP.
C. A._ forme un recours en matière pénale et un recours constitutionnel contre ce dernier arrêt. Il conclut à sa réforme en ce sens que Me Keller est désigné comme conseil juridique gratuit. Il requiert l'assistance judiciaire pour la procédure devant le Tribunal fédéral.
La Chambre des recours pénale a renoncé à se déterminer.
Considérant en droit:
1. Conformément à l'art. 78 LTF, une décision relative à l'assistance judiciaire dans une cause pénale peut faire l'objet d'un recours en matière pénale. Conformément à l'art. 95 let. a LTF, le recourant peut faire valoir par ce moyen les griefs relatifs tant à l'application du droit fédéral (art. 136 ss CPP) qu'à l'application du droit constitutionnel (art. 29 al. 3 Cst.). Pour autant qu'ils aient une portée propre, les griefs soulevés à l'appui du recours constitutionnel doivent donc être traités dans le cadre du recours en matière pénale (ATF 133 IV 335 consid. 2 p. 337).
1.1 Le refus de désigner un conseil juridique est une décision incidente susceptible de causer au recourant un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF (ATF 133 IV 335 consid. 4 p. 338).
1.2 Le recourant agit en tant que partie plaignante. Selon l'art. 81 al. 1 let. b ch. 5 LTF, une telle partie a qualité pour recourir "si la décision peut avoir des effets sur le jugement de ses prétentions civiles". Constituent de telles prétentions celles qui sont fondées sur le droit civil, telles les prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO. Selon l'art. 42 al. 1 LTF, il incombe au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir (cf. ATF 133 II 353 consid. 1 p. 356, 249 consid. 1.1 p. 251).
1.2.1 Lorsque, comme en l'espèce, la procédure n'a pas dépassé le stade de l'instruction, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles (ATF 137 IV 246 consid. 1.3.1). En revanche, elle doit expliquer dans son mémoire quelles prétentions civiles elle entend faire valoir à moins que, compte tenu notamment de la nature de l'infraction alléguée, l'on puisse déduire directement et sans ambiguïté quelles prétentions civiles pourraient être élevées et en quoi la décision attaquée pourrait influencer négativement leur jugement (ATF 137 IV 219 consid. 2.4 p. 222 et les arrêts cités)
1.2.2 En l'occurrence, les actes dénoncés ont été commis par des policiers dans le cadre de leur fonction, soit des agents de l'Etat. Selon la loi vaudoise sur la responsabilité de l'Etat, des communes et de leurs agents, l'Etat et les communes répondent directement du dommage que leurs agents causent à des tiers d'une manière illicite (art. 4). L'agent n'est pas personnellement tenu envers le lésé de réparer le dommage (art. 5). Le canton de Vaud ayant ainsi fait usage de la faculté réservée à l'art. 61 al. 1 CO, le recourant ne dispose que d'une prétention de droit public à faire valoir non pas contre les auteurs présumés, mais contre l'Etat. Or, selon la jurisprudence constante, une telle prétention ne peut être invoquée dans le procès pénal par voie d'adhésion et ne constitue dès lors pas une prétention civile au sens des dispositions précitées (ATF 138 IV 86 consid. 3.1 p. 88; 133 IV 228 consid. 2.3.3 p. 234; 128 IV 188 consid. 2).
1.2.3 La jurisprudence admet dans certains cas la qualité pour recourir de la partie plaignante (ATF 138 IV 86 consid. 3.1.1 p. 88), y compris en matière d'assistance judiciaire, lorsque les actes dénoncés sont susceptibles de tomber sous le coup des dispositions prohibant les actes de torture et autres peines ou traitements cruels ou dégradant (art. 3 CEDH, 7 Pacte ONU II, 10 al. 3 Cst.; cf. arrêt 1B_355/2012 du 12 octobre 2012, consid. 1.2.2). Les actes dénoncés par le recourant, soit une violation de domicile, n'ont toutefois pas un degré de gravité suffisant à cet égard.
Il s'ensuit que le recours est irrecevable en tant qu'il porte sur le fond, soit sur le refus partiel d'accorder l'assistance judiciaire.
1.2.4 Selon la jurisprudence, le plaignant qui n'a pas la qualité pour recourir sur le fond peut en revanche se plaindre d'une violation de droits que la loi de procédure applicable ou le droit constitutionnel lui reconnaît comme partie à la procédure, lorsque cette violation équivaut à un déni de justice formel. Les griefs soulevés ne doivent toutefois pas constituer des moyens liés au fond (ATF 136 IV 41 consid. 1.4 p. 44, 29 consid. 1.9 p. 40; 133 IV 228 consid. 2.3.2 p. 232 s. et les références citées). Dans la mesure où le recourant se plaint d'une violation de son droit d'être entendu, il y a lieu d'entrer en matière.
2. Invoquant son droit d'être entendu, le recourant relève qu'il évoquait, dans son recours cantonal, l'incidence de l'issue de sa plainte pénale sur la procédure pénale ouverte à son encontre, puisque le maintien de certaines pièces dans ce dernier dossier dépendait de l'issue de l'enquête ouverte pour violation de domicile. L'arrêt cantonal serait muet à ce sujet. Le recourant relève également qu'il avait produit, devant la cour cantonale, un recours formé contre un refus d'entrer en matière sur la plainte pour violation de domicile. Ce recours, finalement admis le 29 août 2012 par la Chambre pénale de recours, démontrait la complexité de la cause.
2.1 Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. implique, notamment, pour l'autorité l'obligation de motiver sa décision. Selon la jurisprudence, il suffit que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. Il n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions décisives pour l'issue du litige (ATF 137 II 266 consid. 3.2 p. 270; 136 I 229 consid. 5.2 p. 236). Dès lors que l'on peut discerner les motifs qui ont guidé la décision de l'autorité, le droit à une décision motivée est respecté même si la motivation présentée est erronée. La motivation peut pour le reste être implicite et résulter des différents considérants de la décision (arrêt 2C_23/2009 du 25 mai 2009 consid. 3.1 publié in RDAF 2009 II p. 434 et les références).
2.2 La cour cantonale n'a certes pas expressément pris position sur le grief du recourant, présenté le 12 juillet 2012 en complément à son recours. Toutefois, elle a rappelé que l'assistance judiciaire n'était accordée au plaignant, selon l'art. 136 CPP, que pour permettre à celle-ci de faire valoir ses prétentions civiles. Or, il est évident que la contestation de la validité de certaines preuves dans une procédure pénale parallèle ne constitue pas une telle prétention. La cour cantonale a aussi considéré (concernant la réparation du dommage consécutif à la procédure pénale et à la détention) que le recourant bénéficiait de l'assistance d'un défenseur d'office dans la procédure pénale dont il est l'objet, et qu'il pourrait faire valoir ses moyens par ce biais. Cette considération peut également s'appliquer à la contestation relative à la validité des moyens de preuve. Dès lors, si la cour cantonale n'a pas spécifiquement répondu au grief du recourant, les arguments retenus par ailleurs pouvaient aussi trouver à s'appliquer et constituer une motivation suffisante du point de vue formel.
2.3 Le recourant a effectivement produit son recours contre l'ordonnance de non-entrée en matière dans une nouvelle écriture complémentaire du 20 juillet 2012. L'arrêt attaqué ne l'évoque pas. La question de savoir s'il y a, sur ce point, violation du droit d'être entendu, peut toutefois demeurer indécise. En effet, dans la mesure où le recourant ne pouvait faire valoir de prétentions civiles au sens de l'art. 136 al. 1 LTF (et dans la mesure où il ne peut se prévaloir de la protection découlant des art. 3 CEDH, 7 Pacte ONU II et 10 al. 3 Cst. et, partant, du droit à l'assistance judiciaire tel qu'il découle directement de l'art. 29 al. 3 Cst. - arrêt 1B_355/2012 précité, consid. 5), la question de savoir si la complexité de la cause nécessitait l'intervention d'un défenseur n'avait pas à être tranchée (même arrêt, consid. 4). L'argument soulevé était dès lors sans pertinence et pouvait ainsi demeurer sans réponse.
Les griefs formels du recourant doivent ainsi être rejetés.
3. Sur le vu de ce qui précède, le recours doit être rejeté, dans la mesure où il est recevable. Le recourant a demandé l'assistance judiciaire et celle-ci peut lui être accordée, en vertu de l'art. 64 LTF. Me Mathias Keller est désigné comme avocat d'office du recourant, rétribué par la caisse du Tribunal fédéral. Il n'est pas perçu de frais judiciaires.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est admise; Me Mathias Keller est désigné comme avocat d'office du recourant et ses honoraires, supportés par la caisse du Tribunal fédéral, sont fixés à 1'500 francs. Il n'est pas perçu de frais judiciaires.
3. Le présent arrêt est communiqué au mandataire du recourant, au Ministère public central et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 4 décembre 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Kurz