Faits:
A. T._ est bénéficiaire de l'aide sociale. Le 3 septembre 2004, elle a déposé une demande de prestations auprès de l'office cantonal de l'assurance-invalidité de la République et canton de Genève (ci-après : l'office AI) en vue de l'octroi d'une rente suite à un état dépressif.
Dans un rapport du 19 octobre 2004, le docteur J._, rhumatologue et médecin traitant, a diagnostiqué un état anxio-dépressif et une discopathie C5-C6, avec répercussion sur la capacité de travail, ainsi que, sans répercussion sur la capacité de travail, une hyperlipidémie traitée et une dépendance à l'alcool et au THC. Il a estimé que la capacité de travail de sa patiente était nulle depuis le 20 mai 2003 et que la capacité résiduelle était difficile à quantifier. Le médecin traitant a demandé une évaluation psychiatrique. Le 15 janvier 2007, il a confirmé son précédant rapport, estimant que les diagnostics étaient inchangés et que la capacité de travail était toujours nulle.
Le docteur R._, psychiatre au SMR, a examiné T._ le 2 mai 2007. Dans son rapport du 11 février 2008, il n'a diagnostiqué aucune atteinte psychiatrique ayant une influence sur la capacité de travail. En revanche, il a posé les diagnostics suivants sans répercussion sur la capacité de travail : personnalité émotionnellement labile, type borderline, non décompensée (F 60.31), dysthymie (F 34.1), troubles mentaux et troubles du comportement liés à l'utilisation d'alcool, utilisation épisodique (F 10.26), liés à l'utilisation de dérivés du cannabis et de cocaïne, actuellement abstinent (F 19.20) et liés à l'utilisation de sédatifs et d'hypnotiques, utilisation continue (F 13.25). Pour le docteur R._, il n'y a aucune maladie psychiatrique invalidante et, partant, aucune incapacité de travail. T._ peut exercer son ancienne activité de réceptionniste-téléphoniste ou toute autre activité adaptée à 100 % sans limitation de rendement.
Dans un rapport du 22 février 2008, le docteur O._, spécialiste de médecine interne, a repris les conclusions du docteur R._.
Par projet de décision du 18 mars 2008, l'office AI a nié tout droit aux prestations, estimant que la capacité de travail était entière. T._ a contesté la position de l'office AI et a demandé un entretien, qui a eu lieu le 30 avril 2008 et au cours duquel elle a fait état d'un traitement psychiatrique, débuté six mois plus tôt, chez le docteur H._, psychiatre. A la demande de l'office AI, elle s'est engagée à faire parvenir un rapport de ce praticien.
Sans réponse de l'assurée, l'office AI a nié tout droit aux prestations par décision du 18 septembre 2008.
B. T._ a recouru contre la décision de l'office AI auprès du Tribunal cantonal des assurances sociales de la République et canton de Genève. Elle a conclu implicitement à son annulation et à l'octroi des prestations. Interpelé par l'autorité cantonale, le docteur H._ a fourni un rapport du 28 mars 2009, dans lequel il a retenu les diagnostics suivants : trouble de l'humeur persistant : dysthymie dépressive (F 34.1), trouble anxiété généralisé (F 41.1), phobie sociale sévère (F 40.1), trouble de la personnalité de type borderline (F 60.31), troubles mentaux et du comportement liés à l'utilisation épisodique d'alcool (F 10.26) et à l'utilisation continue de tranquillisants et hypnotiques (F 13.25). Pour ce médecin, il existe une incapacité totale de travail motivée par des limitations psychiques, résultant d'une tolérance très basse à l'anxiété et au stress, d'accès dépressifs sévères à raison de 2-4 jours par quinzaine avec effondrement dépressif, d'isolement social massif, d'excès alimentaires, de la consommation d'alcool, de l'hypersomnie et de l'instabilité affective avec déficits du contrôle de son impulsivité et passage à des actes auto-agressifs.
Par ordonnance du 12 mai 2009, l'autorité cantonale a décidé de confier une expertise psychiatrique au docteur U._, spécialiste en psychiatrie et psychothérapie. Dans son rapport du 10 juillet 2009, l'expert a retenu les diagnostics suivants : trouble de la personnalité émotionnellement labile, type borderline (F 60.31), phobie sociale (F 40.1), épisode dépressif moyen sans syndrome somatique (F 32.10) et dysthymie (F 34.1), dépendance à l'alcool, utilisation épisodique (F 10.26) et trouble de l'alimentation, sans précision (F 50.9). Pour l'expert, la capacité de travail est nulle au moment de l'examen et probablement depuis janvier 2008.
L'office AI s'est déterminé sur l'expertise le 15 septembre 2009 et a demandé la confirmation de sa décision du 18 mars 2008. Il a contesté les appréciations de l'expert et du docteur H._.
Par jugement du 7 octobre 2009, le Tribunal cantonal des assurances sociales a admis le recours de T._, annulé la décision de l'office AI, octroyé une rente entière d'invalidité à compter du 1er janvier 2009 et mis les frais de procédure à la charge de l'office AI.
C. L'office AI interjette un recours en matière de droit public contre ce jugement. Il demande son annulation et la confirmation de la décision attaquée. Il conclut également à l'octroi de l'effet suspensif au recours.
L'intimée conclut implicitement au rejet du recours.
L'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le recours peut être formé notamment pour violation du droit fédéral (art. 95 let. a LTF), que le Tribunal fédéral applique d'office (art. 106 al. 1 LTF), n'étant ainsi limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p.140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF). Il examine sur la base des griefs soulevés dans le recours si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (art. 95 let. a LTF) y compris une éventuelle constatation des faits manifestement inexacte ou en violation du droit (art. 97 al. 1, art. 105 al. 2 LTF).
2. La juridiction cantonale a considéré que l'octroi d'une rente était possible à partir de janvier 2009, car la capacité de travail était nulle au plus tard en janvier 2008. Se fondant sur les rapports de l'expert judiciaire U._ du 10 juillet 2009 et du psychiatre traitant H._ du 28 mars 2009, dont elle a admis qu'ils avaient pleine valeur probante, l'instance précédente a retenu que l'intimée ne remplissait pas les conditions légales pour l'octroi d'une rente d'invalidité le 18 septembre 2008 lorsque le recourant a rendu sa décision. En revanche, comme l'incapacité de travail était totale à partir de janvier 2008 et qu'elle perdurait au moment où l'expertise judiciaire avait été réalisée, en juillet 2009, les premiers juges ont étendu la procédure juridictionnelle, admis le recours et octroyé une rente entière d'invalidité dès janvier 2009.
De son côté, le recourant conteste la possibilité de procéder à une extension de la procédure juridictionnelle.
3. 3.1 De jurisprudence constante, le juge des assurances sociales apprécie la légalité des décisions attaquées d'après l'état de fait existant au moment où la décision litigieuse a été rendue. Les faits survenus postérieurement et ayant modifié cette situation doivent faire l'objet d'une nouvelle décision administrative (cf. ATF 131 V 242 consid. 2.1 p. 243, 121 V 362 consid. 1b p. 366). Pour des motifs d'économie de procédure, la procédure juridictionnelle administrative peut être étendue à une question en état d'être jugée qui excède l'objet de la contestation, c'est-à-dire le rapport juridique visé par la décision, lorsque cette question est si étroitement liée à l'objet initial du litige que l'on peut parler d'un état de fait commun, et à la condition que l'administration se soit exprimée à son sujet dans un acte de procédure au moins (ATF 130 V 501 consid. 1.2 p. 503, ATF 122 V 34 consid. 2a p. 36 et les références).
3.2 La décision du 18 septembre 2008 niait tout droit aux prestations pour l'intimée en se fondant sur l'avis du docteur R._ pour qui les affections psychiatriques dont souffre l'assurée n'entraînent aucune incapacité de travail. L'expert mandaté par les premiers juges a constaté une péjoration de l'état de santé mentale de l'intimée dès janvier 2008, confirmant ainsi l'avis du psychiatre traitant. Ces trois médecins ont examiné l'intimée à des périodes différentes mais ont diagnostiqué des affections psychiatriques dont il faut admettre à l'évidence qu'elles constituent un état de fait commun d'autant plus étroitement lié à l'objet du litige que les constatations du docteur H._ se rapportent, en partie au moins, à une situation antérieure à la décision attaquée. Le recourant s'étant prononcé sur la question, il y a lieu d'admettre que la juridiction pouvait statuer sur l'affaire en retenant un état de fait partiellement postérieur à la décision.
4. Il y a donc lieu d'examiner la conformité au droit fédéral du jugement attaqué en tenant compte également des faits nouveaux ressortant de la procédure juridictionnelle cantonale.
4.1 L'autorité cantonale a admis, en se fondant sur les conclusions de l'expert judiciaire, que l'intimée souffrait d'affections psychiques rendant impossible toute activité professionnelle.
4.2 Le recourant reproche aux premiers juges d'avoir apprécié les preuves de manière contraire au droit fédéral et au principe de l'interdiction de l'arbitraire. Il considère en particulier que la phobie sociale, sur laquelle l'expert judiciaire fonde une partie importante de l'incapacité de travail, commence en principe à l'adolescence et est habituellement à l'origine d'un évitement des situations sociales pouvant conduire à un isolement presque total. Or, les activités de l'intimée actuelles et passées (activité bénévole, fréquentation régulière d'une amie, achats dans les magasins, contacts téléphoniques avec ses frère et s?ur ainsi qu'antérieurement l'activité de danseuse et entraîneuse dans des bars à champagne) ne montrent pas l'existence d'une phobie sociale incapacitante. De plus, cette affection étant en principe présente depuis l'adolescence, le docteur R._ aurait dû en remarquer certains éléments constitutifs, ce qui n'a pas été le cas. Enfin, le recourant reproche à l'expert judiciaire d'avoir retenu une aggravation de l'état anxieux sans en expliquer l'origine.
4.3 En l'espèce, l'expertise judiciaire a été établie de manière conforme aux exigences requises par la jurisprudence pour lui accorder pleine valeur probante. En outre, ses conclusions correspondent dans une large mesure à l'appréciation du psychiatre traitant. Le docteur O._, du SMR, qualifie l'expertise de complète dans son rapport du 11 août 2009. Toutefois, il conteste le diagnostic de phobie sociale et son impact sur la capacité de travail en se basant sur les constatations faites par le docteur R._, médecin du SMR, le 2 mai 2007 soit plus de deux ans avant l'expertise, sans tenir compte du fait que l'expert admet une aggravation de l'état de santé de l'intimée survenue après l'examen par le docteur R._, à une période qu'il fixe au début de l'année 2008, soit à la période où l'assurée a ressenti le besoin d'un traitement psychiatrique suivi. Ainsi, il apparait que le recourant conteste les diagnostics retenus par l'expert sans se prononcer sur l'aggravation de l'état de santé qui justifie les diagnostics de l'expert. Dans ces conditions, en présence de deux avis médicaux fondés sur les constatations les plus récentes et qui retiennent l'existence d'atteintes psychiques incapacitantes, il faut admettre que l'avis du docteur R._ émis deux ans auparavant ne permet pas de mettre en doute les conclusions quasi concordantes de l'expert U._ et du docteur H._. A plus forte raison, les avis des docteurs R._ et O._ ne permettent pas d'admettre que l'autorité cantonale a retenu de façon manifestement inexacte ou contraire au droit fédéral que l'intimée était totalement incapable de travailler en raison de troubles psychiques, l'intimée se trouvant « hors d'état d'exercer une activité professionnelle, même à temps partiel » selon l'appréciation détaillée de l'expert judiciaire.
4.4 Les premiers juges ont retenu que l'incapacité totale de travail de l'assurée datait de janvier 2008 et ont fait partir le droit à la rente de janvier 2009. Cette partie du jugement ne faisant l'objet d'aucune contestation, il n'y a pas lieu d'examiner si le droit aux prestations pouvait déjà naître antérieurement.
5. 5.1 Selon l'art. 61 LPGA, la procédure devant le tribunal cantonal des assurances est gratuite pour les parties (let. a). L'art. 69 al. 1bis LAI (en vigueur depuis le 1er juillet 2006) déroge cependant à cette disposition dans la mesure où il soumet à des frais judiciaires les procédures portant sur des contestations relatives à l'octroi ou au refus de prestations de l'assurance-invalidité. Les frais judiciaires sont généralement mis à la charge de la partie qui succombe, quel que soit le rôle (recourant ou intimé) joué dans la procédure (arrêt du Tribunal fédéral 8C_40/2009 du 13 mars 2009 consid. 3.1 et la référence).
5.2 Les juges cantonaux ont admis le recours et partant ont mis les frais de la procédure par 200 fr. à la charge de l'office AI, intimé en procédure cantonale (chiffre 5 du dispositif).
Celui-ci conteste cette manière de faire estimant que sa décision du 18 septembre 2008 était justifiée au moment où elle a été rendue, puisque l'arrêt cantonal fait partir le droit aux prestations d'une date ultérieure, reconnaissant que l'intimée n'avait pas droit à une rente au jour de la décision. Il considère ainsi que l'autorité cantonale ne pouvait pas lui mettre à charge les frais de la procédure.
5.3 En l'espèce, la juridiction a reconnu que si elle n'avait pas étendu la procédure, elle aurait dû constater qu'au 18 septembre 2008 l'intimée ne remplissait pas encore les conditions d'octroi d'une rente et qu'en conséquence elle aurait dû rejeter le recours. Il ressort également de la procédure que, lors de l'entrevue du 30 avril 2008 l'intimée s'était engagée à faire parvenir au recourant un rapport du docteur H._ attestant de son état de santé. Elle n'a toutefois jamais donné suite et l'office AI a statué sur le dossier en l'état cinq mois après l'entretien. Dans ces conditions, la juridiction cantonale n'était pas fondée à condamner l'office AI aux frais de la procédure car il avait procédé à une administration de preuves complètes et il appartenait à l'assurée de produire l'avis médical permettant d'étayer sa position. Cette dernière ayant succombé sur l'objet de la contestation en instance cantonale, il lui appartient de supporter les frais de justice.
6. Le recours est dès lors partiellement admis.
7. Le recourant qui succombe dans une très grande partie, supportera les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le chiffre 5 du dispositif du jugement du Tribunal cantonal des assurances sociales de la République et canton de Genève du 7 octobre 2009 est réformé en ce sens qu'un émolument de justice de 200 fr. est mis à la charge de T._. Le recours est rejeté pour le surplus.
2. Les frais judiciaires, arrêtés à 500 fr. sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 2 juin 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Berthoud