Faits:
A. A.X._, ressortissant turc, né le 5 janvier 1969, est entré en Suisse sans autorisation au mois d'août 1988 pour y travailler. Le 7 février 1992, il a épousé, à Neuchâtel, B._, de nationalité suisse, née le 10 juillet 1969, et a été mis au bénéfice d'une autorisation annuelle de séjour. Une enfant prénommée C._ est née de cette union, le 10 décembre 1992.
Le mariage des époux X._ a été dissout par jugement de divorce du 20 mai 1996, l'autorité parentale sur C._ étant attribuée à la mère et une curatelle éducative instituée en faveur de l'enfant. Selon la convention sur les effets accessoires du divorce, un large droit de visite a été attribué au père.
Le 12 juin 1996, A.X._ s'est remarié en Turquie avec une compatriote, avec laquelle il aura un fils, D._, né le 14 mars 1998. Cette union sera dissoute par divorce quelques années plus tard.
B. Par décision du 4 novembre 1996, le Service des étrangers du canton de Neuchâtel, devenu Service des migrations (ci-après: le Service des migrations), a refusé de prolonger l'autorisation de séjour de A.X._ et d'accorder une autorisation de séjour à sa seconde épouse au titre de regroupement familial. Le recours de l'intéressé contre cette décision a été classé, à la suite de son retour en Turquie, le 31 mai 1997.
Les 4 mars 1999 et 21 juin 2001, l'Office fédéral des étrangers (actuellement, l'Office fédéral des migrations, en abrégé: ODM) a refusé à A.X._ l'autorisation d'entrer en Suisse pour visiter sa fille. La deuxième décision, qui concernait également la visite du frère de l'intéressé à Neuchâtel, a été confirmée sur recours le 11 novembre 2002 par le Département fédéral de justice et police.
C. Entendu le 23 août 2004 par le Service de l'emploi du canton de Neuchâtel, A.X._ a déclaré qu'il était revenu en Suisse à fin avril 2002 et qu'il avait commencé à travailler sans autorisation un mois plus tard.
Par décision du 27 septembre 2004, le Service des migrations a ordonné le renvoi immédiat de A.X._, mesure suspendue à la suite du recours de l'intéressé. Sur le plan pénal, celui-ci a été condamné à huit jours d'emprisonnement avec sursis pendant deux ans et à une amende de 80 fr. pour séjour illégal.
Le 20 octobre 2004, A.X._ a présenté une demande d'autorisation de séjour aux fins de regroupement familial avec sa fille, en se prévalant de l'art. 8 CEDH. Cette requête a été rejetée par le Service des migrations, le 15 mars 2005.
A.X._ a recouru contre cette décision auprès du Département de l'économie publique du canton de Neuchâtel (en abrégé: le Département) qui, dans le cadre de l'instruction du recours, a entendu C._, le 23 janvier 2008. Celle-ci a indiqué qu'elle voyait son père tous les week-ends depuis 2002 et que ce dernier était très présent dans sa vie, malgré l'absence de cohabitation. De son côté, B._ a déclaré que le père contribuait régulièrement à l'entretien de sa fille.
Par décision du 23 mai 2008, le Département a admis le recours et invité le Service des migrations à délivrer une autorisation de séjour à A.X._ pour demeurer en Suisse avec sa fille en vertu de l'art. 8 CEDH, sous réserve de l'approbation de l'Office fédéral des migrations.
Après instruction, l'ODM a, par décision du 18 février 2010, refusé d'exempter A.X._ des mesures de limitation au sens de l'art. 13 let. f de l'ordonnance du 6 octobre 1986 limitant le nombre des étrangers (OLE; RO 1986 p. 1791 ss), disposition qu'il a jugée seule applicable.
A.X._ a recouru contre cette décision auprès du Tribunal administratif fédéral. Il a fait valoir qu'il était l'unique élément stable pour sa fille et que son soutien était déterminant pour le bon développement de celle-ci, ainsi que l'attestait, dans un courrier du 15 mars 2010, le curateur de C._, qui avait dû être nommé à la suite de l'enquête pénale ouverte contre la mère, suspectée d'infractions graves à l'encontre de mineurs. Il a également rappelé que ses demandes de visas en 1999 et 2001 pour venir voir sa fille avait été rejetées, de sorte qu'il était venu en Suisse sans autorisation et que l'enfant D._, dont il avait obtenu la garde après son divorce en Turquie, l'avait rejoint en Suisse au mois de mars 2003 et poursuivait depuis lors sa scolarité à Neuchâtel.
Par arrêt du 4 novembre 2010, le Tribunal administratif fédéral a rejeté le recours. Il a retenu en bref que les critères de l'art. 8 CEDH, qui doivent être pris en considération même si cette norme n'a pas de portée directe en matière de mesures de limitation, n'étaient pas remplis, pas plus que les conditions de l'art. 13 let. f OLE.
D. Agissant par la voie du recours en matière de droit public pour violation de l'art. 8 CEDH, A.X._ conclut, sous suite de frais et dépens, à l'annulation de l'arrêt du Tribunal administratif fédéral du 4 novembre 2010 et à l'octroi d'une autorisation de séjour, subsidiairement au renvoi de la cause à la juridiction intimée pour complément d'instruction ou au Service des migrations pour qu'il statue dans le sens des considérants.
Le Tribunal administratif fédéral a renoncé à se déterminer sur le recours et l'Office fédéral des migrations propose son rejet.
E. Par ordonnance présidentielle du 16 décembre 2010, la demande d'effet suspensif présentée par le recourant a été admise.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence et la recevabilité des recours qui lui sont soumis (cf. art. 29 al. 1 LTF; ATF 136 II 470 consid. 1 p. 472, 436 consid. 1 p. 438).
1.1 En tant que l'arrêt attaqué concerne le refus d'exempter le recourant des mesures de limitation, la voie du recours en matière de droit public n'est pas ouverte auprès du Tribunal fédéral (art. 83 let. c ch. 5 LTF), de sorte que le recours se fonde à juste titre uniquement sur l'art. 8 CEDH.
1.2 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
1.3 Selon la jurisprudence, un étranger peut, selon les circonstances, se prévaloir du droit au respect de sa vie privée et familiale au sens de l'art. 8 § 1 CEDH, respectivement 13 al. 1 Cst., pour s'opposer à une éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse soit étroite et effective (ATF 135 I 143 consid. 1.3.1 p. 145; 130 II 281 consid. 3.1 p. 285/et les arrêts cités). L'art. 8 CEDH s'applique lorsqu'un étranger fait valoir une relation intacte avec ses enfants bénéficiant du droit de résider en Suisse, même si ces derniers ne sont pas placés sous son autorité parentale ou sous sa garde du point de vue du droit de la famille (ATF 120 Ib 1 consid. 1d p. 3; 119 Ib 81 consid. 1c p. 84; 118 Ib 153 consid. 1c p. 157 et les références).
Le Tribunal fédéral admet aussi qu'un étranger puisse, exceptionnellement et à des conditions restrictives, déduire un droit à une autorisation de séjour de l'art. 8 § 1 CEDH, s'il existe un rapport de dépendance particulier entre lui et un proche parent au bénéfice d'un droit de présence assuré en Suisse (nationalité suisse ou autorisation d'établissement; cf. ATF 135 I 143 consid. 1.3.1 p. 145 ss; 130 II 281 consid. 3.1 p. 285), par exemple en raison d'une maladie ou d'un handicap (ATF 120 Ib 257 consid. 1d p. 261). Il n'a cependant jamais tranché clairement la question de savoir si cette jurisprudence était applicable lorsque ce n'était pas l'étranger qui était dépendant, mais la personne au bénéfice d'un droit de présence assuré en Suisse (arrêt 2C_817/2010 du 24 mars 2011, consid. 1.1.2 et les arrêts cités). Cette question doit être résolue par l'affirmative en tout cas lorsque, comme en l'espèce, le lien de dépendance particulier qui est invoqué pour fonder le droit à séjourner en Suisse s'ajoute au lien de parenté nucléaire, soit entre parents et enfants. En effet, si l'enfant dans un rapport de dépendance particulier (malade ou handicapé) est mineur, alors on admet que le parent étranger peut faire valoir un droit lui ouvrant la voie du recours en matière de droit public en application de l'art. 8 CEDH (cf. arrêt 2C_843/2009 du 14.06.2010 consid. 1.2), l'âge déterminant étant le moment où le Tribunal fédéral statue (ATF 129 II 11 consid. 2 p. 13, confirmé récemment in arrêt 2C_84/2010 du 1er octobre 2010 consid. 3.2 destiné à la publication in ATF 136 II 497). Sur le plan procédural, il n'y a aucun motif de traiter différemment le parent d'un enfant majeur qui se trouve dans une même situation de dépendance en raison d'une maladie ou d'un handicap. Dans un tel cas, le droit au maintien des relations familiales ne découle en effet pas de l'âge, mais du rapport de dépendance entre parents et enfants. Une telle différence de traitement serait d'autant moins justifiable lorsque, comme en l'espèce, au moment du dépôt de la demande l'enfant était encore mineur, mais est devenu majeur au cours d'une procédure qui dure plusieurs années, sans que le parent qui sollicite l'autorisation de séjour en soit responsable. Il convient donc d'admettre un droit sous l'angle de l'art. 83 let. c ch. 2 LTF, le point de savoir si le lien de dépendance permet de fonder une autorisation de séjour sous l'angle de l'art. 8 CEDH étant une question de fond et non de recevabilité.
1.4 Les autres conditions de recevabilité du recours en matière de droit public étant réunies, il y a lieu d'entrer en matière.
2. 2.1 L'art. 8 CEDH ne confère en principe pas un droit à séjourner dans un Etat déterminé. Le fait de refuser un droit de séjour à un étranger dont la famille se trouve en Suisse peut toutefois entraver sa vie familiale et porter ainsi atteinte au droit au respect de la vie privée et familiale garanti par cette disposition (ATF 135 I 143 consid. 1.3.1 p. 145, 153 consid. 2.1 p. 154 ss). Il n'y a toutefois pas atteinte à la vie familiale si l'on peut attendre des membres de la famille qu'ils réalisent leur vie de famille à l'étranger; l'art. 8 CEDH n'est a priori pas violé si le membre de la famille jouissant d'un droit de présence en Suisse peut quitter ce pays sans difficultés avec l'étranger auquel une autorisation de séjour a été refusée (ATF 135 I 143 consid. 2.2 p. 147, 153 consid. 2.1 p. 155). En revanche, si le départ du membre de la famille pouvant rester en Suisse ne peut d'emblée être exigé sans autres difficultés, il y a lieu de procéder à la pesée des intérêts prévue par l'art. 8 § 2 CEDH. Cette disposition suppose de tenir compte de l'ensemble des circonstances et de mettre en balance l'intérêt privé à l'obtention d'un titre de séjour et l'intérêt public à son refus (ATF 136 I 285 consid. 5.2 p. 287; 135 I 153 consid. 2.1 p. 155 et les références citées).
2.2 En l'occurrence, il n'est pas contesté que le recourant entretient des relations étroites et effectives avec sa fille C._, dont l'état suppose qu'elle soit placée en institution. Celle-ci a en outre la nationalité suisse et, compte tenu de sa santé mentale, on ne voit manifestement pas que l'on puisse envisager qu'elle quitte la Suisse pour aller vivre en Turquie. Le droit du père de séjourner en Suisse suppose donc une pesée des intérêts en présence.
2.3 A ce sujet, le recourant fait essentiellement valoir que l'arrêt entrepris aura pour résultat de le priver de tous contacts directs avec sa fille puisque, d'une part, ses demandes pour lui rendre visite avaient été rejetées en 1999 et 2001, puis sur recours par le Département fédéral de justice et police en novembre 2002, au motif que le retour dans le pays d'origine n'était pas garanti et que, d'autre part, C._ n'est pas apte, en raison de ses troubles du comportement, à rendre visite à son père en Turquie, ni à communiquer avec lui avec des "moyens modernes", contrairement à ce qu'ont retenu les premiers juges. Or, l'Office des mineurs et les institutions s'occupant de C._ ont reconnu que l'intéressée avait besoin de l'appui de son père, lequel lui était particulièrement bénéfique en raison de la défaillance de la mère qui en avait perdu la garde.
De son côté, le Tribunal administratif fédéral n'a, dans la pesée des intérêts en présence, pas retenu d'autre intérêt public que la politique restrictive de la Suisse en matière d'immigration, tout en relevant, dans le cadre de son examen sous l'angle de l'art. 13 let. f OLE, la condamnation du recourant à huit jours d'emprisonnement avec sursis pendant deux ans et à une amende de 80 fr. pour infractions aux prescriptions de police des étrangers. A cela s'ajoutait qu'il avait caché la présence en Suisse de son fils D._, arrivé en Suisse en 2003, à l'âge de cinq ans.
2.4 Force est toutefois de constater que l'intérêt public à éloigner le recourant de Suisse n'est pas prépondérant par rapport à l'intérêt privé de ce dernier à pouvoir rester proche de sa fille pour la soutenir. En effet, les infractions commises par le recourant sont directement liées à son séjour illégal en Suisse et n'atteignent donc pas un degré de gravité qui nécessiterait son éloignement (ATF 136 I 285 consid. 5.3 p. 289; 135 I 153 consid. 2.2. p. 156 ss). Il faut d'ailleurs relever que son séjour dans la clandestinité a été en grande partie provoqué par le refus de l'Office fédéral des migrations de lui accorder des visas d'entrée en Suisse pour pouvoir exercer son droit de visite sur sa fille. Pour le reste, le recourant n'a donné lieu à aucune plainte; il n'a jamais été à l'aide sociale et a toujours travaillé, tout en s'occupant de son fils. Le fait qu'il soit actuellement le seul soutien familial de C._, qui ne peut visiblement pas compter sur sa mère et n'a pas d'autre parenté que le demi-frère de treize ans qui vit avec son père, revêt une importance prépondérante. A cet égard, il ressort de l'arrêt attaqué que, selon le curateur de la jeune fille, la mère - qui en avait perdu la garde mais en conservait l'autorité parentale - n'avait pas une bonne influence sur celle-ci, contrairement au père qui respectait scrupuleusement le droit de visite et était capable de l'encadrer. Le cas de C._ est donc particulier, puisque, suite à ses troubles graves du comportement, elle a été scolarisée dans un centre pédago-thérapeutique dès 2005, puis placée dans des institutions spécialisées, dont la dernière, au mois d'août 2008, "E._", dans le canton de Fribourg. Le Conseiller en réadaptation professionnelle de l'Office d'assurance-invalidité de ce canton relevait ainsi, dans son rapport du 30 juin 2009, que l'intéressée présentait des difficultés de compréhension et d'abstraction la situant au niveau d'une enfant de cinq ans. Il préconisait une intégration en structure protégée, étant donné qu'aucune formation professionnelle n'était envisageable. Dans la mesure où son père représente le seul membre de sa famille sur lequel elle peut compter et que le droit de visite ne paraît pas pouvoir être exercé depuis ou en Turquie, il faut reconnaître au recourant un droit à obtenir une autorisation de séjour sur la base de l'art. 8 CEDH. Ce droit a en effet subsisté après la majorité de C._ survenue le 9 décembre 2010, car il ne dépend pas de l'âge, mais découle de l'invalidité et de la dépendance psychologique de l'intéressée envers son père.
2.5 Au vu de ce qui précède le recours doit être admis et l'arrêt attaqué annulé. La cause sera renvoyée à l'Office fédéral des migrations pour qu'il approuve l'autorisation de séjour du recourant.
L'issue du recours commande de ne pas mettre de frais à la charge de l'intimé (art. 66 al. 4 LTF). En revanche, l'Office fédéral des migrations versera au recourant une indemnité à titre de dépens (art. 68 al. 1 LTF).
Il y a lieu également de renvoyer l'affaire au Tribunal administratif fédéral pour qu'il fixe à nouveau les frais et dépens de la procédure qui s'est déroulée devant lui (art. 67 et 68 al. 5 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et l'arrêt attaqué est annulé.
2. La cause est renvoyée à l'Office fédéral des migrations pour qu'il approuve l'octroi d'une autorisation de séjour au recourant.
3. Il n'est pas perçu de frais judiciaires.
4. L'Office fédéral des migrations versera au recourant une indemnité de 2'000 fr. à titre de dépens.
5. L'affaire est renvoyée au Tribunal administratif fédéral pour qu'il fixe à nouveau les frais et dépens de la procédure qui s'est déroulée devant lui.
6. Le présent arrêt est communiqué au mandataire du recourant, à l'Office fédéral des migrations, au Tribunal administratif fédéral, Cour III, et au Service des migrations du canton de Neuchâtel.
Lausanne, le 27 avril 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Zünd Rochat