Faits:
A. A._ a été engagé pour le 1er janvier 2003 en tant que tailleur-coupeur de costumes au Grand-Théâtre de Genève, sur la base d'un contrat temporaire de droit privé. Après renouvellement de ce contrat, A._ a été nommé à titre d'essai, au même poste, le 28 janvier 2004, en tant que fonctionnaire de la Ville de Genève. Durant l'année 2004, des dissensions sont apparues entre A._, qui se plaignait d'une attitude dénigrante de la part de sa supérieure hiérarchique B._, et cette dernière qui jugeait insuffisante la qualité de son travail.
Au terme de la période d'essai, le Grand-Théâtre fit savoir à A._, par lettre du 8 décembre 2004 qu'il n'entendait pas poursuivre la relation de travail, car ce dernier n'avait pas une marge de progression suffisante et éprouvait des difficultés à positiver les remarques de sa supérieure. Ces motifs ont été contestés par l'intéressé, qui dénonçait l'attitude de B._. Le 25 avril 2005, A._ fut informé qu'une procédure de licenciement avait été ouverte et qu'il était dispensé de l'obligation de travailler jusqu'à l'échéance de son contrat. Selon un rapport du 19 septembre 2005 établi par un ancien collaborateur de la Ville de Genève (ci-après: le rapport X._, les compétences professionnelles et l'attitude de B._ étaient contestées par certains employés, mais les relations humaines au sein du personnel pouvaient être qualifiées de satisfaisantes. Les tensions avaient diminué depuis le départ de A._.
A._ a été licencié par décision du 5 octobre 2005, pour le 31 décembre 2005. Cette décision a été retirée pour vice de forme et une nouvelle procédure de licenciement a été entamée le 14 décembre 2005. L'intéressé a été entendu et a pu s'exprimer sur le rapport du 19 septembre 2005. Une nouvelle décision de licenciement a été rendue le 27 janvier 2006 par le Conseil administratif genevois, avec effet au 31 mars 2006.
B. Par arrêt du 28 août 2007, après avoir procédé à de nombreuses auditions et versé au dossier deux rapports d'audit commandés par le Grand-Théâtre et la Ville de Genève (ci-après: les rapports Y._ et Z._, établis indépendamment de la cause), le Tribunal administratif du canton de Genève a admis le recours formé par A._ contre la décision du 27 janvier 2006. Le grief de violation du droit d'être entendu a été écarté: le rapport X._, de même que les deux audits, concernaient les problèmes relationnels au sein de l'atelier, et non les compétences professionnelles du recourant; ne s'agissant pas d'une enquête administrative dirigée contre l'intéressé, celui-ci n'avait pas le droit de prendre connaissance des témoignages recueillis, ni de s'exprimer avant l'élaboration de ces rapports. Sur le fond, le Tribunal administratif a retenu qu'à l'échéance de la période probatoire de trois ans, les rapports de services pouvaient être résiliés "librement", sous réserve notamment d'arbitraire. En l'occurrence, les très bonnes compétences du recourant dans le vêtement traditionnel, et son manque d'expérience dans la coupe de théâtre étaient connus dès son engagement; après une période de formation, le recourant avait été engagé une seconde fois à l'issue d'un concours limité au marché suisse. Lors de sa nomination en février 2004, le recourant ne s'était pas vu remettre de cahier des charges ou fixer d'objectifs à atteindre; les reproches adressés lors de l'entretien relatif au conflit avec sa supérieure n'avaient été précédés d'aucune évaluation et ne reposaient sur aucune faute avérée. La durée de l'engagement ne permettait pas à un tailleur traditionnel de devenir un bon tailleur de théâtre, le recourant n'ayant d'ailleurs pas eu l'occasion de confectionner des costumes d'époque durant sa courte période d'engagement. Enfin, l'attitude négative reprochée au recourant était due en partie au comportement de sa supérieure et aux graves lacunes dans la gestion des ressources humaines. Le licenciement apparaissait ainsi arbitraire.
C. Par acte du 10 octobre 2007, la Ville de Genève forme un recours en matière de droit public et un recours constitutionnel subsidiaire. Elle conclut à l'annulation de l'arrêt cantonal et à la confirmation de la décision de licenciement, subsidiairement au renvoi de la cause au Tribunal administratif pour nouvelle décision dans le sens des considérants. L'effet suspensif est requis.
Le Tribunal administratif persiste dans les termes de son arrêt. A._ conclut au rejet de la demande d'effet suspensif et des recours, dans la mesure de leur recevabilité.
Par ordonnance présidentielle du 1er novembre 2007, l'effet suspensif a été accordé.
Considérant en droit:
1. La voie du recours en matière de droit public (art. 82 ss LTF) est ouverte contre les décisions en matière de rapports de travail de droit public, lorsque la valeur litigieuse dépasse 15'000 fr. (art. 85 al. 1 let. b LTF). Tel est le cas en l'espèce, la Ville de Genève se voyant contrainte, selon l'arrêt attaqué, de réintégrer l'intimé dans sa fonction.
1.1 Le recours est formé par une commune, agissant en tant qu'employeur. Selon l'art. 89 al. 2 let. c LTF, les communes peuvent agir en invoquant la violation de garanties qui leur sont reconnues par la constitution cantonale ou fédérale. La Ville de Genève invoque à ce sujet l'autonomie qui lui est reconnue dans le domaine de la gestion de son personnel, et en particulier le large pouvoir d'appréciation dont elle dispose à la fin de la période d'essai pour décider si elle entend ou non poursuivre la relation de travail. En tant qu'employeur, obligée de réintégrer un employé après un licenciement abusif, la recourante pourrait aussi agir sur la base de l'art. 89 al. 1 LTF car elle est touchée par l'arrêt attaqué de la même manière qu'un employeur privé.
1.2 Pour le surplus, interjeté en temps utile et dans les formes requises contre une décision finale prise en dernière instance cantonale non susceptible de recours devant le Tribunal administratif fédéral, le recours respecte les exigences des art. 42, 86 al. 1 let. d, 90 et 100 al. 1 LTF. Le recours en matière de droit public est par conséquent recevable, ce qui entraîne l'irrecevabilité du recours constitutionnel subsidiaire (art. 113 LTF).
2. La Ville de Genève invoque l'autonomie dont elle dispose dans le domaine de la gestion de son personnel. Durant la période d'essai, l'employeur pourrait résilier librement les rapports de service; il disposerait sur ce point d'un très large pouvoir d'appréciation, et le Tribunal administratif n'aurait quant à lui qu'un pouvoir d'examen extrêmement limité. En l'occurrence, la cour cantonale aurait outrepassé ce pouvoir en revoyant l'opportunité de la décision de licenciement, et en méconnaissant les critiques justifiées concernant la qualité du travail de l'intéressé.
2.1 Selon l'art. 30 let. w de la loi genevoise sur l'administration des communes (LAC), le statut du personnel communal est adopté par le conseil communal. Selon l'art. 48 let. r LAC, le Conseil administratif engage et nomme le personnel de l'administration municipale, fixe son salaire, le contrôle et le révoque conformément au statut du personnel. Selon l'art. 7 du statut du personnel de l'administration municipale, le fonctionnaire est d'abord nommé à titre d'essai pendant trois ans (sous déduction de la durée des contrats antérieurs, d'auxiliaire ou de temporaire; al. 1 et 2). Pendant la période probatoire, l'engagement peut être résilié de part et d'autre, un mois à l'avance pour la fin d'un mois pendant la première année, et deux mois d'avance pendant les deuxième et troisième années du temps d'essai. La décision de licenciement est notifiée par écrit à l'intéressé avec indication des motifs. Elle est susceptible de recours au Tribunal administratif, sur la légalité et la forme. Le Tribunal administratif peut annuler le licenciement (al. 5). Au terme de la période d'essai, le Conseil administratif doit confirmer la nomination ou résilier l'engagement en respectant les délais précités, en permettant à l'intéressé de s'exprimer par écrit et en l'entendant s'il en fait la demande (art. 9 al. 1 du statut).
2.2 Le statut ne prévoyant aucun motif de licenciement, mais uniquement le respect de certains délais et de garanties formelles telle que l'exigence de motivation de la décision, l'autorité de nomination est en principe libre de renoncer au maintien des rapports de service durant la période d'essai. Cette faculté est destinée à permettre l'engagement de personnel répondant au mieux aux exigences du service. Le temps d'essai (cf., en droit privé, l'art. 335b CO; arrêt 4A_385/2007 du 28 novembre 2007, destiné à la publication, consid. 7.1) doit ainsi fournir aux parties l'occasion de préparer l'établissement de rapports de travail destinés à durer, en leur permettant d'éprouver leurs relations de confiance, de déterminer si elles se conviennent mutuellement et de réfléchir avant de s'engager pour une plus longue période. Si les rapports contractuels qu'elles ont noués ne répondent pas à leur attente, les parties doivent pouvoir s'en libérer rapidement (ATF 129 III 124 consid. 3.1 p. 125). L'autorité dispose dans ce cadre d'un très large pouvoir d'appréciation, de sorte que la cour cantonale, comme elle l'admet elle-même, ne saurait intervenir qu'en cas de violation des principes constitutionnels tels que l'égalité de traitement et l'interdiction de l'arbitraire. En outre, lorsque le droit applicable ne fait pas dépendre le licenciement de conditions matérielles, le grief d'arbitraire ne saurait être admis que dans des cas exceptionnels, par exemple lorsque les motifs allégués sont manifestement inexistants, lorsque des assurances particulières ont été données à l'employé (arrêt 4A_385/2007 précité, consid. 7.1.2) ou en cas de discrimination. En revanche, l'autorité de recours n'a pas à rechercher si les motifs invoqués sont ou non imputables à une faute de l'employé; il suffit en effet que la continuation du rapport de service se heurte à des difficultés objectives, ou qu'elle n'apparaisse pas souhaitable pour une raison ou une autre.
2.3 La cour cantonale a considéré que le licenciement était arbitraire en raison de l'attitude ambiguë de l'administration (invitation à postuler lors de la remise au concours, nouvelle nomination alors que les faits reprochés à l'intimé étaient déjà connus, manque de cahier des charges et d'évaluation du travail), et du caractère injustifié des reproches faits à l'intéressé. Ce faisant, le Tribunal administratif raisonne comme s'il s'agissait d'appliquer les critères de l'art. 336 CO relatifs à la résiliation abusive du contrat de travail, perdant de vue qu'un licenciement au terme de la période d'essai peut parfaitement intervenir en l'absence de toute faute de l'intéressé.
2.4 En l'occurrence, l'intimé s'est vu adresser des reproches d'ordre professionnel (manque de précision, d'autonomie, d'imagination et de créativité notamment) et relationnel (difficultés avec sa supérieure et manque d'adaptation). Une partie seulement des manquements constatés peut être imputée à une gestion défaillante du personnel; pour le surplus, les reproches formulés notamment dans la lettre du 8 décembre 2004 apparaissaient en partie fondés. En particulier, l'arrêt cantonal ne revient pas sur le fait que l'intéressé refusait de tenir compte des critiques de sa supérieure, même si l'attitude de cette dernière et une politique défaillante des ressources humaines ont pu contribuer à cette situation. La cour cantonale considère certes qu'il serait "injuste, dans ces circonstances, de faire porter à M. A._ l'entière responsabilité de l'état d'esprit négatif dans lequel il était". Il n'en demeure pas moins que les reproches formulés à ce sujet étaient eux aussi, en tout cas partiellement justifiés.
2.5 La décision de licenciement reposait ainsi sur des motifs objectifs qui ne peuvent être qualifiés de purs prétextes, ce qui suffit pour lui dénier tout caractère arbitraire. En substituant son appréciation à celle de l'autorité, le Tribunal administratif a ainsi violé l'autonomie communale.
3. Le recours doit par conséquent être admis et l'arrêt attaqué annulé. Les frais de la cause sont mis à la charge de l'intimé qui succombe (art. 66 al. 1 LTF). Il n'est pas alloué de dépens (art. 68 al. 3 LTF). La cause est renvoyée au Tribunal administratif pour nouvelle décision sur les frais et dépens de l'instance cantonale.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est admis et l'arrêt attaqué est annulé.
3. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge de l'intimé A._.
4. Il n'est pas alloué de dépens.
5. La cause est renvoyée au Tribunal administratif pour nouvelle décision sur les frais et dépens de l'instance cantonale.
6. Le présent arrêt est communiqué aux parties et au Tribunal administratif du canton de Genève.
Lausanne, le 6 février 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz