Faits:
A. Par ordonnance du 14 mai 2009, le Juge d'instruction de l'arrondissement de Lausanne a renvoyé D.X._ devant le Juge de police de l'arrondissement de Lausanne, comme prévenue de lésions corporelles simples qualifiées et de voies de fait qualifiées, et a prononcé un non-lieu en faveur de Y._.
Il était reproché à D.X._, qui vit séparée de son mari, d'avoir, entre septembre 2005 et août 2008, infligé de mauvais traitements à ses enfants, A.X._, B.X._ et C.X._, nés, respectivement, en 1994, 1995 et 1997.
Y._, frère de D.X._, avait également été mis en cause du fait d'avoir frappé les enfants: en août 2006, alors qu'il les ramenait en voiture chez leur mère dans le canton de Zürich, et en septembre 2006, à la gare de Lausanne, où il était venu les chercher. Il a bénéficié d'un non-lieu, faute d'indices suffisants de culpabilité.
B. Agissant par l'entremise de l'avocate qui leur avait été désignée en vertu de la LAVI, A.X._, B.X._ et C.X._ ont recouru contre le non-lieu prononcé en faveur de Y._ auprès du Tribunal d'accusation du Tribunal cantonal vaudois, qui a rejeté leur recours par arrêt du 23 juin 2009, mettant les frais à leur charge en application de l'art. 307 CPP/VD.
C. A.X._, B.X._ et C.X._ forment un recours en matière pénale au Tribunal fédéral. Se plaignant d'arbitraire dans l'appréciation des preuves et de leur condamnation aux frais, ils concluent à l'annulation de l'arrêt attaqué. Ils sollicitent l'assistance judiciaire.
Des déterminations n'ont pas été requises.
Considérant en droit:
1. Les recourants soutiennent qu'une appréciation des preuves exempte d'arbitraire aurait dû conduire à admettre l'existence d'indices suffisants quant au fait que l'intimé les a frappés, justifiant d'ordonner son renvoi en jugement.
1.1 Il convient de rappeler préalablement qu'une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable. Elle ne peut être considérée comme telle que si elle s'avère manifestement insoutenable, et cela non seulement dans sa motivation mais dans son résultat (ATF 134 I 140 consid. 5.4 p. 148; 133 I 149 consid. 3.1 p. 153 et les arrêts cités). Sous peine d'irrecevabilité, l'arbitraire allégué doit par ailleurs être démontré conformément aux exigences de motivation de l'art. 106 al. 2 LTF (cf. ATF 133 IV 286 consid. 1.4 p. 287).
1.2 S'agissant du voyage effectué de Lausanne à Zurich, l'intimé a expliqué qu'il avait été mouvementé. Les enfants avaient commencé à "faire les fous", voulant jeter des objets par la fenêtre et endommager les sièges. Il s'était arrêté sur une aire de repos et était sorti de la voiture. Les enfants étaient excités et il leur avait demandé de se calmer, prenant à cette fin l'un des garçons par les épaules. Il ne leur avait pas donné de coups. Finalement, les enfants s'étaient un peu calmés. Sa soeur s'était ensuite assise à l'arrière de la voiture avec les enfants. Le reste du trajet s'était passé plus ou moins bien.
A ces déclarations, les recourants opposent celles de deux d'entre-eux, qu'ils reproduisent dans leur recours. Ils invoquent en outre le fait que leur mère, interrogée au sujet du comportement de l'intimé, a répondu "je vous laisserai directement voir avec mon frère ce qu'il a fait dans cette situation" ainsi que les déclarations de l'intimé, selon lesquelles il n'avait pas donné gratuitement ou volontairement des coups aux enfants.
Appréciant ces diverses déclarations, l'autorité cantonale a estimé que celles venant à l'appui de la version des recourants n'étaient pas suffisamment probantes pour qu'elles doivent être privilégiées, que la version de l'intimé apparaissait au demeurant crédible et que rien n'indiquait qu'il aurait, d'une manière pénalement répréhensible, outrepassé les bornes de ce qui était nécessaire pour maintenir un minimum d'ordre dans une voiture avec trois enfants contrariés et excités.
Cette appréciation ne peut être qualifiée d'arbitraire, au sens de la jurisprudence. L'autorité cantonale se trouvait en présence de deux versions contradictoires et, au vu de leur contenu respectif, il n'était pas manifestement insoutenable de considérer que la crédibilité de celle de l'intimé n'est en tout cas pas moindre que celle des recourants, au contraire. Examinées dans leur ensemble, les déclarations de la mère des recourants, telles qu'elles ressortent du procès-verbal de son audition du 25 avril 2008 auquel ceux-ci se réfèrent, ne viennent pas étayer leur version des faits, mais vont bien plutôt dans le sens de celle de l'intimé. Il en va de même de celles de ce dernier, résultant du procès-verbal de son audition du 9 mai 2008, dont les recourants ne citent qu'un extrait, qui, replacé dans son contexte, n'a pas la portée qu'ils tentent de lui donner. Il n'était dès lors pas manifestement insoutenable de considérer qu'il n'existait pas d'indices suffisants de culpabilité de l'intimé quant aux faits litigieux pour ordonner son renvoi en jugement.
1.3 En ce qui concerne les faits qui se sont déroulés à la gare de Lausanne en septembre 2006, l'intimé a expliqué qu'il était venu y chercher deux des recourants, soit C.X._ et B.X._, après avoir été averti par leur mère qu'ils avaient fugué, que ceux-ci avaient voulu prendre la fuite et qu'il avait alors tenté de les en empêcher en les retenant par la main, avant de les remettre à la police qu'il avait appelée, puis de les reprendre auprès de celle-ci avec leur mère après qu'elle était arrivée. Il s'est défendu de les avoir frappés.
Pour contester cette version de l'intimé, les recourants se prévalent de déclarations de la recourante A.X._, selon laquelle, à cette occasion, l'intimé aurait jeté ses frères par terre, ainsi que de déclarations de l'intimé, d'après lesquelles il avait dû retenir les deux garçons, qui se débattaient et donnaient des coups de pied, et que, dans ces circonstances, il n'était pas exclu que l'un d'eux se soit un peu blessé.
L'autorité cantonale a estimé que les éléments recueillis ne suffisaient pas à faire douter de la bonne foi de l'intimé et à lui imputer un comportement pénalement punissable.
Cette appréciation ne peut non plus être qualifiée d'arbitraire. Rien n'indique que la recourante A.X._ ait été présente lors de l'épisode de la gare de Lausanne. Le contraire n'est du moins pas démontré, ni même allégué. La force probante des déclarations de celle-ci doit dès lors être relativisée. Quant aux déclarations de l'intimé, elles ne constituent certes pas un aveu de ce qu'il aurait frappé les recourants C.X._ et B.X._ à cette occasion, comme suggéré dans le recours. Force est ainsi de constater qu'aucun élément sérieux ne vient infirmer les dénégations de ce dernier quant aux faits ici litigieux. Sur ce point également, l'absence d'indices suffisants de culpabilité pouvait donc être admise sans arbitraire.
1.4 L'autorité cantonale a encore observé que des photographies versées au dossier montraient certes que les enfants avaient subi des ecchymoses, mais que l'on ignorait dans quelles conditions ces clichés avaient été pris.
Les recourants objectent que l'autorité cantonale aurait dû élucider ou faire élucider les circonstances dans lesquelles les photographies ont été prises. Ils n'indiquent toutefois pas ce qui justifierait de soupçonner l'intimé d'être l'auteur des ecchymoses révélées par celles-ci, ne se risquant même pas à affirmer que c'est lui qui pourrait les avoir causées. Qu'il était arbitraire de ne pas voir dans les photographies un indice de la culpabilité de l'intimé n'est ainsi aucunement démontré, ni d'ailleurs réellement allégué. Sur ce point, le recours est par conséquent irrecevable, faute de motivation suffisante au regard des exigences de l'art. 106 al. 2 LTF.
1.5 Au reste, les recourants allèguent vainement qu'il était arbitraire de prononcer un non-lieu en faveur de l'intimé, alors que leur mère a été renvoyée en jugement, en se fondant dans l'un et l'autre cas sur les mêmes procès-verbaux d'audition. L'inégalité de traitement qu'ils semblent y voir est dénuée de fondement, dès lors que les faits reprochés à chacun des mis en cause - et c'est ce qui est déterminant - ne sont pas les mêmes.
1.6 En conclusion, le grief d'arbitraire dans l'appréciation des preuves doit être rejeté dans la mesure où il est recevable.
2. Les recourants se plaignent d'avoir été condamnés aux frais de la procédure de seconde instance cantonale. Ils font valoir que l'art. 2 let. f LAVI prévoit que la victime, au sens de cette loi, est exemptée des frais de procédure et que cette disposition l'emporte, en tant que règle spéciale, sur l'art. 307 CPP/VD, en vertu duquel l'auteur d'un recours rejeté peut être condamné aux frais.
2.1 L'art. 2 LAVI, qui fait partie des dispositions générales de la LAVI, rassemblées dans le chapitre 1 de cette loi, mentionne les prestations que comporte l'aide aux victimes, parmi lesquelles l'exemption des frais de procédure (cf. art. 2 let. f LAVI). Ces différentes prestations sont réglées par des dispositions spéciales, figurant dans les chapitres suivants de la loi. En particulier, l'exemption des frais de procédure est réglée par l'art. 30 LAVI.
L'alinéa 1 de cette dernière disposition pose le principe que les autorités administratives et judiciaires ne perçoivent pas de frais de la victime et de ses proches pour les procédures leur permettant de faire valoir leurs droits en matière de conseils, d'aide immédiate, d'aide à plus long terme, d'indemnisation et de réparation morale. Son alinéa 2 prévoit une exception à ce principe, en disposant que les frais peuvent être mis à la charge de la partie téméraire. En vertu de son alinéa 3, la victime et ses proches ne sont pas tenus de rembourser les frais de l'assistance gratuite d'un défenseur.
2.2 Comme cela résulte du texte de l'art. 30 al. 1 LAVI, le principe de la gratuité posé par cette disposition vaut uniquement pour les procédures ayant trait aux prestations allouées par les centres de consultation et les autorités chargées d'octroyer les indemnisations et les réparations morales. Il ne vaut pas pour d'autres procédures résultant de l'infraction, telles que l'action civile ou l'action pénale dirigées contre l'auteur. Le message du Conseil fédéral relatif à la LAVI le précise expressément, en relevant qu'une proposition en sens contraire de la commission d'experts n'a pas été retenue (cf. FF 2005, 6683 ss, 6752).
2.3 Sur le vu de ce qui précède, le grief que les recourants font à l'autorité cantonale de ne pas les avoir exemptés des frais en application de la LAVI est infondé. Le sort et la répartition des frais de la procédure pénale dirigée contre l'auteur de l'infraction sont régis par le droit de procédure applicable, fédéral ou cantonal suivant que la cause relève de la juridiction fédérale ou cantonale. En l'espèce, c'est donc à juste titre que, s'agissant des frais de la procédure de recours cantonale, il a été fait application de l'art. 307 CPP/VD.
2.4 Subsidiairement, les recourants allèguent que, vu qu'ils sont des enfants "n'exerçant aucune activité lucrative et ne percevant aucun revenu", l'autorité cantonale devait renoncer à mettre les frais de la procédure à leur charge. Leur condamnation à supporter les frais est toutefois conforme à l'art. 307 CPP/VD, qui permet, si le recours est rejeté, de mettre les frais à la charge du recourant. Cette disposition prévoit certes une faculté, non pas une obligation. Que, dans le cas d'espèce, il était arbitraire, c'est-à-dire manifestement insoutenable, et non seulement discutable ou même critiquable, de ne pas renoncer à la perception de frais n'est toutefois pas démontré dans le recours. La seule circonstance que les recourants sont des enfants et ne réalisent donc pas eux-mêmes de gains ne suffit pas à le faire admettre.
3. Le recours doit ainsi être rejeté dans la mesure où il est recevable. Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (art. 64 al. 1 LTF). Les frais seront donc mis à la charge des recourants (art. 66 al. 1 LTF), qui les supporteront conjointement (art. 66 al. 5 LTF). Leur montant sera toutefois arrêté en tenant compte de la situation financière des recourants. Il n'y a pas lieu d'allouer des dépens à l'intimé, qui n'a pas été amené à se déterminer sur le recours.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 500 fr., sont mis conjointement à la charge des recourants.
4. Le présent arrêt est communiqué aux parties et au Tribunal d'accusation du Tribunal cantonal du canton de Vaud.
Lausanne, le 5 novembre 2009
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Angéloz