Faits:
A. A.a C._ est né le 16 juin 2000, de la relation hors mariage entre A._ et B._. Les parents ont fait ménage commun jusqu'en 2005.
A._ est la mère d'un autre enfant, D._, né le 11 novembre 1992. Celui-ci vit en Suisse avec elle depuis le mois de juin 2004. Il s'entend très bien avec C._.
A.b Le 18 mars 2005, le père a déposé auprès de l'Autorité tutélaire du district du Val-de-Ruz une requête tendant principalement à ce que la garde de son fils lui soit attribuée.
L'office des mineurs a rendu son rapport le 27 mars 2006. Il en résulte notamment que l'enfant ne présente aucun signe de négligence ou de maltraitance mais qu'il semble très fatigué, n'est pas vraiment dans la réalité et a de la peine à suivre à l'école.
Lors de l'audience du 27 juin 2006, les parents sont convenus que la garde et l'autorité parentale sur l'enfant resteraient confiées à la mère, que le père contribuerait à l'entretien de son fils par le versement d'un montant de 500 fr. par mois, frais d'écolage et d'assurance maladie en sus, l'allocation familiale restant en mains de la mère, que le droit de visite du père s'exercerait librement entre les parties et, à défaut d'entente entre elles, selon les modalités usuelles minimales, enfin, qu'une curatelle au sens de l'art. 308 al. 2 CC serait instituée, une assistante sociale à l'office des mineurs étant désignée à cette fin.
Par décision du 13 décembre 2006, l'Autorité tutélaire a ratifié cette convention et institué une mesure de curatelle en faveur de l'enfant.
Dans son rapport du 29 septembre 2008, la curatrice a notamment relevé que l'enfant souffrait d'un déficit de l'attention et de problèmes d'identité, qu'un bilan psychothérapeutique débuterait prochainement et qu'un travail socio-éducatif en réseau continuait avec les parents, l'école, l'office des mineurs et les éventuels thérapeutes.
A.c Le 6 juillet 2010, la doctoresse, médecin-psychiatre et psychothérapeute FMH, qui suivait l'enfant a signalé par écrit à l'Autorité tutélaire la précarité affective, relationnelle et éducationnelle dans laquelle vivait celui-ci, demandant en conséquence un changement d'attribution de la garde. Dans son rapport, elle a indiqué que la mère, sans emploi depuis des mois, sans doute aimante à sa façon mais probablement en proie à des difficultés psychologiques, voire psychiatriques importantes, se montrait incapable d'offrir à son jeune fils un milieu contenant, cadrant et sécurisant. Il lui semblait aussi très difficile de se rendre compte des besoins d'un enfant de cet âge. Même si elle n'avait sans doute aucun désir, ni conscience de lui nuire, il en résultait que son fils était un enfant négligé, dont la situation confinait à la maltraitance par abandon.
Le 8 juillet 2007, la Direction des écoles enfantines et primaires a également sollicité l'intervention de l'Autorité tutélaire au sujet de l'enfant, qui présentait des difficultés en classe et dont la situation familiale était préoccupante, selon un rapport établi par un conseiller socio-éducatif le 7 juillet précédent.
La curatrice de l'enfant a adressé un nouveau rapport à l'Autorité tutélaire le 9 août 2010, proposant l'attribution provisoire de la garde de l'enfant à son père durant le premier semestre scolaire 2010-2011.
Les parents ont été entendus par le Président de l'Autorité tutélaire le 17 août 2010 et l'enfant, le 1er septembre 2010.
La mère a déposé des observations le 6 septembre 2010, déclarant s'opposer à un transfert de la garde et concluant à ce qu'une expertise psychiatrique permettant une analyse sérieuse de l'enfant et des deux parents soit ordonnée.
B. Par décision du 7 septembre 2010, l'Autorité tutélaire a, en application des art. 310 ss CC, retiré la garde de l'enfant à la mère et attribué celle-ci au père «au sens des considérants». Elle a en outre statué sur le droit de visite de la mère et l'obligation d'entretien du père, tout en confirmant la curatrice dans ses fonctions. Selon cette autorité, le dossier montrait clairement que la situation de l'enfant était préoccupante, à tel point que la thérapeute de celui-ci, de même que la Direction des écoles, étaient intervenues auprès d'elle. Les constatations des professionnels en charge de l'enfant corroboraient en outre les déclarations que celui-ci avait faites lors de son audition du 1er septembre 2010. Enfin, la situation ferait l'objet d'un nouveau rapport de l'assistante sociale au plus tard dans six mois.
La mère a recouru contre cette décision, sollicitant son annulation et le renvoi du dossier en première instance pour qu'une expertise, et tout autre complément d'instruction jugé utile, soient ordonnés.
Par arrêt du 16 décembre 2010, l'Autorité tutélaire de surveillance du Tribunal cantonal du canton de Neuchâtel a rejeté le recours.
C. Par acte du 11 janvier 2011, la mère exerce un recours en matière civil contre l'arrêt du 16 décembre 2010, concluant à son annulation dans la mesure où il attribue la garde de l'enfant au père. Pour le surplus, elle requiert le renvoi de la cause à l'Autorité tutélaire pour qu'elle procède à une instruction dans les règles de l'art, en particulier par une expertise neutre, comprenant une audition de l'enfant dans des conditions adéquates.
Elle sollicite par ailleurs le bénéfice de l'assistance judiciaire.
Des observations n'ont pas été requises.
Considérant en droit:
1. Interjeté en temps utile (art. 46 al. 1 let. a, 100 al. 1 LTF) contre une décision finale (art. 90 LTF) sujette au recours en matière civile (art. 72 al. 2 let. b ch. 7 LTF), rendue par une juridiction cantonale de dernière instance (art. 75 LTF), le présent recours est recevable au regard de ces dispositions.
2. Dans un premier grief, la recourante reproche à l'autorité cantonale d'avoir violé les art. 307 ss CC en attribuant la garde de l'enfant au père, alors que celui-ci n'est pas détenteur de l'autorité parentale.
2.1 Selon l'art. 310 al. 1 CC, lorsqu'elle ne peut éviter autrement que le développement de l'enfant ne soit compromis, l'autorité tutélaire retire l'enfant aux père et mère ou aux tiers chez qui il se trouve et le place de façon appropriée. Cette mesure de protection a pour effet que le droit de garde passe des père et mère à l'autorité tutélaire, qui détermine dès lors le lieu de résidence de l'enfant et, partant, choisi son encadrement. Elle n'a aucune incidence sur l'autorité parentale, dont les père et mère restent détenteurs. Lorsque, comme en l'espèce, l'enfant est confié au père biologique, qui ne dispose pas de l'autorité parentale, ce dernier ne peut être titulaire de la garde au sens juridique du terme (droit de garde). Il s'agit alors d'un placement auprès d'un tiers et le père, qui doit être qualifié de parent nourricier, n'acquiert que la garde de fait de l'enfant (ATF 128 III 9 consid. 4; 120 Ia 260 consid. 2a p. 262/263 et les références).
2.2 L'arrêt entrepris a rejeté le recours formé par la recourante contre la décision de l'Autorité tutélaire lui retirant la garde de son fils. Le chiffre 2 du dispositif de celle-ci attribue par ailleurs «la garde» de l'enfant à l'intimé, «au sens des considérants». A la lecture des motifs de la décision de première instance, il appert que l'Autorité tutélaire a considéré qu'il se justifiait de retirer la garde de l'enfant à la mère et qu'un placement provisoire chez le père, plutôt qu'en institution, se révélait approprié. Cette décision doit donc être comprise en ce sens que seule la garde de fait de l'enfant a été confiée au père, en application de l'art. 310 al. 1 CC. Le grief apparaît ainsi infondé.
3. 3.1 Invoquant son droit d'être entendue, la recourante prétend qu'en violation des règles de la procédure, elle a été auditionnée, le 17 août 2010, alors qu'elle ignorait «ce qui avait été ajouté au dossier» depuis la dénonciation de la psychiatre de l'enfant du 6 juillet 2010. Elle n'aurait ainsi pas eu l'occasion de se prononcer sur les allégations de troubles psychiques et de mauvais traitements envers son fils formulées à son encontre.
3.2 Celui qui, alors qu'il aurait pu le faire, n'a pas soulevé devant l'autorité cantonale de dernière instance un grief lié à la conduite de la procédure ne peut en principe plus l'invoquer devant le Tribunal fédéral. Une solution contraire favoriserait les manoeuvres dilatoires (ATF 130 III 66 consid. 4.3 p. 75 et les références citées). Dans le cas particulier, il faut constater que ce moyen n'a pas été soulevé devant l'autorité cantonale. Par ailleurs, la recourante ne prétend pas non plus avoir été empêchée de relever la prétendue irrégularité qu'elle invoque, notamment dans ses observations du 6 septembre 2010. Le grief est dès lors irrecevable.
4. La recourante se plaint aussi d'une violation de la maxime inquisitoire et d'arbitraire dans l'appréciation des preuves. Elle prétend que la décision attaquée repose sur une instruction sommaire, ainsi que partiellement inadéquate et lacunaire.
4.1 Le principe de la maxime inquisitoire, applicable aux mesures de protection de l'enfant (arrêts 5A_196/2010 du 10 mai 2010, consid. 5; 5C.257/2004 du 9 mars 2005, consid. 2.2 et 2.3; 5C.112/2001 du 30 août 2001 consid. 2c/aa, in FamPra.ch 2002 p. 405), impose au juge d'établir d'office les faits pertinents (ATF 128 III 411 consid. 3.2.1 p. 412 ss). Il ne signifie cependant pas que celui-ci doive donner suite à toutes les offres de preuves qui lui sont présentées, ni recueillir d'office tous les éléments susceptibles d'influer sur sa décision; il ne lui interdit pas non plus de procéder à une appréciation anticipée des preuves déjà recueillies pour évaluer la nécessité d'en administrer d'autres (ATF 130 III 734 consid. 2.2.3 p. 735). Abstraction faite d'exceptions qui ne sont pas réalisées dans le cas présent (cf. à ce sujet: F. HOHL, Procédure civile, t. I, 2001, n. 1045), l'expertise n'est ainsi qu'une mesure probatoire parmi d'autres. Le juge doit l'ordonner lorsqu'elle apparaît comme le seul moyen de preuve idoine, en particulier lorsqu'il ne bénéficie pas de connaissances personnelles suffisantes pour se prononcer sur le bien de l'enfant, par exemple lorsque celui-ci souffre d'une maladie ou présente un comportement pathologique, ou encore lorsque le juge ne dispose d'aucun élément de preuve sur des faits pertinents pour la décision; il jouit à cet égard d'un large pouvoir d'appréciation (arrêt 5A_798/2009 du 4 mars 2010, consid. 3.1 et les références), qui trouve sa limite dans l'interdiction de l'arbitraire (ATF 127 I 38 consid. 2a p. 41; 124 IV 86 consid. 2a p. 88; 120 Ia 31 consid. 2a p. 38 et les arrêts cités).
Le Tribunal fédéral n'intervient en conséquence pour violation de l'art. 9 Cst. que si le juge du fait a abusé de ce pouvoir, en particulier lorsqu'il admet ou nie un fait pertinent en se mettant en contradiction évidente avec les pièces et les éléments du dossier, lorsqu'il méconnaît des preuves pertinentes ou n'en tient arbitrairement pas compte, ou encore lorsque, en se fondant sur les éléments recueillis, il en tire des constatations insoutenables (ATF 134 V 53 consid. 4.3 p. 62; 129 I 8 consid. 2.1 p. 9).
4.2 Selon les juges précédents, c'est avec raison que l'Autorité tutélaire n'a pas jugé nécessaire d'ordonner l'expertise psychiatrique réclamée par la recourante. En effet, le père s'occupe régulièrement de l'enfant depuis sa naissance, de sorte que l'argument principal que celle-ci fait valoir à l'appui de sa demande, à savoir que l'on ne sait rien du père, doit être écarté. De surcroît, le dossier contient plusieurs avis indépendants, émanant de différents intervenants socio-éducatifs, qui vont tous dans le même sens. En particulier, la curatrice de l'enfant s'est adressée à l'Autorité tutélaire le 9 août 2010 pour demander que la garde soit provisoirement attribuée au père durant le premier semestre 2010-2011, précisant qu'aucune décision définitive ne devrait être prise avant qu'un bilan scolaire, thérapeutique et social ait été établi à la fin de ce délai. Les mesures réclamées par la curatrice correspondent du reste aux désirs de l'enfant, qui doivent être pris en compte même si celui-ci n'est âgé que de 11 ans. L'autorité cantonale s'est également fondée sur le signalement adressé le 6 juillet 2010 à l'Autorité tutélaire par la doctoresse de l'enfant, médecin-psychiatre et psychothérapeute FMH, relatant la précarité affective, relationnelle et éducationnelle dans laquelle vivait celui-ci, et demandant en conséquence un changement de garde en faveur du père. Les juges précédents ont de surcroît tenu compte de l'intervention de la Direction des écoles du 8 juillet 2010, au motif que l'enfant présentait des difficultés scolaires exigeant une implication et un suivi particulièrement importants, que la mère ne parvenait pas à assumer.
L'autorité cantonale a encore relevé qu'un placement institutionnel, tel que la mère le réclamait à titre subsidiaire, porterait une atteinte plus lourde à la situation de l'enfant que la mesure litigieuse, car celui-ci entretenait des rapports fréquents et stables avec son père depuis sa petite enfance. Par ailleurs, le fils aîné de la recourante étant désormais âgé de 18 ans, on pouvait penser qu'à moyen terme, les rapports quotidiens entre lui et son demi-frère iraient en s'espaçant, de sorte que cet élément ne justifiait pas le maintien de la garde de ce dernier par la mère; au demeurant, le placement en institution préconisé par celle-ci entraînerait également une séparation de fait des deux demi-frères.
4.3 La recourante remet en cause la lettre adressée à l'Autorité tutélaire par la psychiatre de l'enfant le 6 juillet 2010. Elle estime que celle-ci ne ferait que reprendre les affirmations du père, en particulier concernant le rôle joué par celui-ci auprès de son fils dans la petite enfance, et qu'elle se comporterait dès lors plus en avocate du père qu'en thérapeute de l'enfant. Cette lettre, qu'elle qualifie de non scientifique, ainsi que les tentatives du père pour obtenir la garde de son fils, voire l'autorité parentale, en 2000 déjà, devaient selon elle amener l'Autorité tutélaire à faire examiner par un spécialiste neutre si les manoeuvres du père n'étaient pas la cause ou l'une des causes des troubles dont souffrait l'enfant, sur le plan scolaire notamment. Le comportement du père, qui prétend à tort que son fils lui a signalé des marques de coups qu'elle lui aurait infligés, devait également exclure de lui confier la garde sans autre instruction. L'autorité cantonale serait en outre tombée dans l'arbitraire en se fondant sur le procès-verbal d'audition de l'enfant, celle-ci n'ayant pas été effectuée dans les règles de l'art. L'affirmation selon laquelle le père se serait régulièrement occupé de l'enfant depuis sa naissance serait également insoutenable. Enfin, la séparation de la fratrie ne pouvait être relativisée au motif que l'aîné des enfants - dont l'audition s'imposait - est âgé de 18 ans.
4.4 De nature essentiellement appellatoire, les critiques de la recourante ne permettent pas de retenir que l'autorité cantonale serait tombée dans l'arbitraire en considérant qu'elle était suffisamment renseignée. En effet, les juges précédents ne se sont pas seulement fondés sur la dénonciation de la psychiatre pour confirmer la mesure litigieuse, mais se sont également appuyés sur les avis concordants de la curatrice et de la Direction des écoles; or la recourante ne critique nullement ceux-ci. Dans la mesure où elle laisse entendre qu'une expertise s'imposait néanmoins, en se référant à l'arrêt 5C.257/2004 du 9 mars 2005, sa critique n'est pas non plus fondée. A cet égard, l'autorité cantonale pouvait considérer, sans tomber dans l'arbitraire, que la présente situation était différente de celle qui avait donné lieu à cet arrêt, dans lequel les services du tuteur général réclamaient eux-mêmes une évaluation approfondie alors qu'en l'occurrence, la curatrice estimait que des observations complémentaires n'étaient pas nécessaires et qu'il y avait une certaine urgence à intervenir.
Par ailleurs, le fait que les mauvais traitements à l'égard de l'enfant ne seraient pas avérés n'apparaît pas décisif, l'autorité cantonale s'étant bien plutôt fondée sur les difficultés comportementales et scolaires de celui-ci, non sur une éventuelle maltraitance physique de la part de la mère. On ne voit pas non plus en quoi l'audition de l'enfant n'aurait pas été effectuée de manière satisfaisante, l'avis de celui-ci ne constituant au demeurant qu'un élément parmi ceux pris en compte par l'autorité cantonale. Quant à la constatation selon laquelle le père s'est régulièrement occupé de son fils depuis sa naissance, la recourante se contente d'affirmer qu'elle serait arbitraire, sans rien démontrer. Ses arguments relatifs à la séparation des deux demi-frères ne sont pas non plus convaincants. Pour le surplus, elle se fonde sur des faits qui ne ressortent pas de l'arrêt entrepris, de sorte que ses allégations ne sauraient être prises en considération.
5. Enfin, contrairement à ce que soutient la recourante, les principes de proportionnalité et de subsidiarité - qui régissent toute mesure de protection de l'enfant (ATF 119 II 9 consid. 4a p. 10/11 et les références; HEGNAUER/MEIER, Droit suisse de la filiation, 4e éd. 1998, n. 27.10 ss; BREITSCHMID, Commentaire bâlois, 3e éd. 2006, n. 3 ad art. 310 CC) - n'apparaissent pas violés. Il résulte en effet de l'arrêt attaqué, d'une part, que la détentrice du droit de garde n'arrive pas à remplir ses devoirs découlant des art. 301 à 306 CC et que, d'autre part, des mesures ont déjà été prises depuis plusieurs années. L'autorité cantonale a en effet constaté, de manière à lier la cour de céans, qu'en plus de l'institution d'une curatelle au sens de l'art. 308 al. 2 CC, un travail socio-éducatif avait été mis en place, comportant notamment un traitement psychothérapeutique à raison de deux séances par semaine; or ces mesures se sont manifestement révélées insuffisantes.
6. Sur le vu de ce qui précède, le recours se révèle mal fondé et ne peut qu'être rejeté, dans la mesure de sa recevabilité. Les frais judiciaires seront dès lors mis à la charge de la recourante, qui succombe (art. 66 al. 1 LTF). Comme ses conclusions étaient d'emblée vouées à l'échec, sa requête d'assistance judiciaire ne saurait être agréée (art. 64 LTF). Il n'y a pas lieu d'allouer de dépens à l'intimé, qui n'a pas été invité à répondre.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire de la recourante est rejetée.
3. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué aux parties et à l'Autorité tutélaire de surveillance du canton de Neuchâtel.
Lausanne, le 16 février 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Juge présidant: La Greffière:
Escher Mairot