Faits :
A.
Le 12 janvier 2018, A._, ressortissant suisse né en décembre 2005, a agressé au couteau un ami d'enfance - âgé comme lui de douze ans -, causant à celui-ci des blessures à la tête dont trois plaies ayant nécessité des points de suture. Il a été mis en prévention de tentative de lésions corporelles graves par le juge des mineurs du canton de Genève, subsidiairement de lésions simples aggravées par l'utilisation d'un objet dangereux. Un avocat d'office lui a été désigné. Durant ses auditions, il a expliqué avoir agi par jalousie, sans vouloir tuer, précisant qu'au moment d'agir, il ne savait plus à quoi il pensait, ajoutant "c'était comme si ce n'était pas moi". Il a ensuite expliqué qu'il entendait une voix depuis l'âge de huit ans. Il a été placé en détention provisoire au Centre pour mineurs de La Clairière. Le 17 janvier 2018, le Juge des mineurs a instauré à titre provisionnel une mesure d'assistance personnelle.
Par ordonnance provisionnelle du 18 janvier 2018, le Juge des mineurs a ordonné l'observation institutionnelle en milieu fermé de A._, pour une durée maximale de trois mois. Les renseignements sur sa situation personnelle n'étaient pas suffisants pour statuer sur les soins éducatifs ou thérapeutiques à ordonner. L'état de santé de l'enfant était préoccupant et une évaluation en milieu ouvert ne présentait pas suffisamment de garanties, d'une part quant à la compliance du mineur, d'autre part au vu de l'imprévisibilité de son comportement. Alors qu'il n'avait jamais manifesté d'agressivité auparavant, A._ avait eu un comportement d'une intense et imprévisible violence lors des faits. Le médecin de La Clairière avait détecté des symptômes inquiétants (méfiance, persécution, hallucinations auditives et visuelles) faisant redouter un risque de psychose. La situation familiale de l'intéressé était aussi préoccupante. Le responsable de l'établissement pour mineurs était invité à déposer son rapport dès que possible. Une expertise psychiatrique a ensuite été mise en oeuvre le 23 janvier 2018.
A._ a recouru contre sa mise en observation en milieu fermé, au sens de l'art. 9 de la loi fédérale régissant la condition pénale des mineurs (DPMin, RS 311.1), en relevant qu'une telle mesure devait servir à l'instruction pénale et non à la protection de l'intéressé ou de tiers. Il ne s'était pas opposé à l'expertise psychiatrique et bénéficiait déjà d'une assistance personnelle. Sa situation scolaire et familiale ne pouvait justifier la mesure.
B.
Par arrêt du 19 février 2018, la Chambre pénale de recours de la Cour de justice du canton de Genève a rejeté le recours. Si le diagnostic médical était du ressort de l'expert, seule une observation du comportement du mineur avec les intervenants médicaux et sociaux, les autres jeunes et la famille pourrait apporter au Juge des mineurs les éléments nécessaires au choix de la mesure à ordonner. Le climat familial - avec notamment le retour d'une des soeurs d'un séjour en hôpital psychiatrique - n'était pas propice à un retour dans sa famille, celle-ci ayant en outre manifesté de la méfiance voire une opposition envers la prise en charge du recourant.
C.
Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler l'arrêt de la Chambre pénale de recours et d'ordonner sa mise en liberté, subsidiairement de renvoyer la cause à la cour cantonale pour nouvelle décision au sens des considérants. Il demande en outre l'assistance judiciaire.
La Chambre pénale de recours se réfère à son arrêt, sans observations. Le Juge des mineurs se réfère à son ordonnance.

Considérant en droit :
1.
Le recours est formé en temps utile (<ref-law>) contre une décision rendue par la dernière instance cantonale (<ref-law>) dans le cadre d'une procédure pénale (<ref-law>). Le recourant, qui a pris part à la procédure devant l'instance précédente et se trouve directement visé par la mesure litigieuse, dispose d'un intérêt à son annulation (<ref-law>). La décision du Juge des mineurs est certes qualifiée comme décision incidente (ordonnance provisionnelle). Toutefois, dans la mesure où elle implique le maintien en milieu fermé, il s'agit d'une restriction à la liberté personnelle du recourant assimilable à un placement en détention provisoire et susceptible de causer un préjudice irréparable au sens de l'<ref-law> (arrêt 1B_6/2018 du 24 janvier 2018 consid. 1). Les conclusions présentées dans le recours sont en principe recevables au regard de l'<ref-law>.
En dépit de son intitulé, la décision attaquée ne saurait être assimilée à une mesure provisionnelle au sens de l'<ref-law> et le recourant n'est donc pas limité dans ses griefs, qui peuvent se rapporter au droit fédéral, constitutionnel ou international (art. 95 let. a et b LTF).
2.
Le recourant invoque le principe de la proportionnalité en rapport avec l'application de l'<ref-law>. Il relève que l'observation en milieu fermé constitue la plus contraignante des mesures d'instruction prévues par cette disposition. Une expertise ayant déjà été ordonnée afin de définir les troubles psychiques dont il pourrait souffrir, l'observation n'aurait pas d'utilité propre; une telle mesure ne pourrait être ordonnée au seul motif que le recourant souffrirait de troubles psychiques. L'observation du comportement du recourant avec les intervenants, les autres jeunes et sa famille pourrait aussi se faire en milieu ouvert, le recourant évoluant dans son environnement habituel. La mesure ordonnée tendrait en réalité à un but de protection non prévu par la loi. La méfiance manifestée par la famille ne pourrait justifier la restriction à la liberté du recourant. A l'égard d'un mineur de douze ans, le principe de la proportionnalité (ainsi que les art. 11 Cst. et 37 let. b de la Convention relative aux droits de l'enfant) exigerait le prononcé d'une mesure moins incisive. Une scolarisation dans une autre école et un suivi psychothérapeutique apparaitraient tout aussi efficaces.
2.1. Figurant au chapitre 2 DPMin relatif à l'instruction (alors que le chapitre suivant traite des mesures de protection et des peines), l'<ref-law> a la teneur suivante:
1 L'autorité compétente ordonne une enquête sur la situation personnelle du mineur, notamment sur son environnement familial, éducatif, scolaire et professionnel, si cette enquête est nécessaire pour statuer sur la mesure de protection ou la peine à prononcer. Une observation ambulatoire ou institutionnelle peut être ordonnée à cet effet.
2 L'enquête peut être confiée à une personne ou à un service disposant des compétences requises.
3 S'il existe une raison sérieuse de douter de la santé physique ou psychique du mineur ou si le placement en établissement ouvert en vue du traitement d'un trouble psychique ou le placement en établissement fermé paraissent indiqués, l'autorité compétente ordonne une expertise médicale ou psychologique.
Avec raison, la cour cantonale relève tout comme le recourant que l'observation en milieu fermé n'est pas une mesure de protection au sens des <ref-law> - en particulier le placement qui dépend de conditions telles qu'un besoin de protection ou l'existence d'une menace grave - mais une mesure d'instruction en vue d'une éventuelle mesure. L'observation peut avoir lieu de manière ambulatoire ou en milieu fermé, le choix de l'un ou de l'autre dépendant d'une application du principe de la proportionnalité, en tenant notamment compte des principes de la procédure applicable aux mineurs, notamment à l'art. 4 de la loi fédérale sur la procédure pénale applicable aux mineurs (PPMin, RS 312.1). La protection et l'éducation sont ainsi déterminantes (al. 1). Les droits de la personnalité du mineur doivent être respectés à tous les stades de la procédure (al. 2). L'atteinte à la vie privée doit être la moins importante possible et le rôle des représentants légaux doit être pris en compte (al. 3 et 4).
2.2. Le Juge des mineurs a notamment relevé que le médecin qui avait examiné le recourant à son arrivée à La Clairière avait constaté que celui-ci présentait des symptômes psychiques inquiétants (méfiance, persécution, hallucinations auditives et visuelles et froideur affective) faisant penser à un risque d'entrée dans la psychose. Le recourant avait déclaré entendre une voix alors qu'il se trouvait chez lui; après son arrivée à La Clairière, il aurait eu "des bruits bizarres dans sa tête", précisant qu'il avait cru voir une image alors qu'il donnait les coups de couteau. Il avait encore déclaré qu'il aurait agi pour reprendre sa place à la maison, l'une de ses soeurs ayant été hospitalisée après un burn-out, ce qui aurait accaparé l'attention de la famille.
Le 18 janvier 2018, l'éducatrice sociale en charge de l'assistance personnelle du recourant s'est adressée au Juge des mineurs en indiquant qu'une observation à La Clairière lui paraissait judicieuse. Il est vrai que les motifs invoqués ont trait exclusivement à la protection du recourant, à la réorganisation de sa scolarité et de la vie familiale, soit des buts étrangers à une mesure d'instruction. Toutefois, il existe d'autres motifs à la base de la décision contestée. Dans son rapport du 1 er février 2018, les responsables de La Clairière indiquent qu'une médication avait été mise en place dans un premier temps et que l'évolution au fil des premiers jours montrait un jeune homme plus ouvert et plus apaisé. Toutefois, il fallait compter avec une opposition de la famille sous la forme d'objections en lien avec la prise en charge du mineur. La collaboration de la famille était peu investie et elle montrait de la méfiance à l'égard de l'établissement. Elle s'était ainsi opposée à la prise de médicaments, ce qui compromettait le début d'un travail éducatif et thérapeutique. En dépit de l'opposition familiale, le recourant se montrait réceptif, voire demandeur de l'aide proposée. Il profitait des effets de la mesure d'observation et il la comprenait comme adaptée aux circonstances.
Le recourant perd ainsi de vue que ce n'est pas seulement une expertise psychiatrique qui a été ordonnée, et au demeurant non contestée. Une évaluation socio-éducative par le responsable pédagogique du foyer a également été demandée, afin d'apporter des éléments nécessaires au choix de la mesure à ordonner. Il s'agit assurément d'une mesure d'instruction, et celle-ci ne serait pas envisageable hors d'un cadre fermé puisqu'il implique une observation au jour le jour du comportement du recourant avec les membres de l'institution, les autres jeunes voire les membres de sa famille. Le fait que cette dernière manifeste de la défiance, voire de l'opposition envers l'institution, serait susceptible de compliquer, voire de compromettre une observation réalisée en milieu ouvert.
Dès lors que la mesure ordonnée par le Juge des mineurs répond à une nécessité de l'instruction, il est indifférent du point de vue de la base légale que d'autres motifs relevant de la protection du mineur puissent également être retenus. Ceux-ci peuvent en revanche être pris en considération sous l'angle de la proportionnalité.
2.3. La cour cantonale a ainsi considéré que le climat familial n'est pas propice à un retour à domicile. Le recourant lui-même semble penser qu'un retour à l'école qu'il fréquentait jusque-là (et la confrontation avec la victime et ses camarades de classe) n'est pas imaginable, étant précisé que la poursuite du programme scolaire peut avoir lieu dans l'établissement avec la collaboration de l'école qu'il fréquentait précédemment. Il en va de même d'un retour au domicile familial, les problèmes psychiatriques de sa soeur, évoqués par le recourant comme un élément en lien avec l'agression, semblant perdurer. Il apparaît enfin, aux dires des responsables de l'établissement, que le recourant lui-même se montre plutôt réceptif à l'aide éducative, pédagogique et thérapeutique qui lui est proposée. Dans ces circonstances, la mesure d'observation en milieu fermé apparaît adéquate et proportionnée.
3.
Sur le vu de ce qui précède, le recours doit être rejeté. Le recourant a demandé l'assistance judiciaire, et les conditions en paraissent réunies. Me Bernard Nuzzo est désigné comme avocat d'office, rétribué par la caisse du Tribunal fédéral, et il n'est pas perçu de frais judiciaires (art. 64 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
La demande d'assistance judiciaire est admise; Me Bernard Nuzzo est désigné comme défenseur d'office du recourant et une indemnité de 1'500 fr. lui est allouée à titre d'honoraires, à payer par la caisse du Tribunal fédéral.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le présent arrêt est communiqué au mandataire du recourant, au Tribunal des mineurs de la République et canton de Genève, à la Cour de justice de la République et canton de Genève, Chambre pénale de recours, et, pour information, à B._.
Lausanne, le 22 mars 2018
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Merkli
Le Greffier : Kurz