Faits:
A. Au terme d'une enquête instruite contre X._ pour assassinat, incendie intentionnel, dommages à la propriété, violation de domicile et contravention à la LStup, le Juge d'instruction de l'arrondissement de Lausanne a rendu, le 4 juin 2008, une ordonnance à suivre fondée sur l'art. 277 let. b CPP/VD, refusant par ailleurs de donner suite à des réquisitions de l'intéressé tendant à un complément d'enquête et à l'audition d'un témoin.
B. Saisi de la cause, le Tribunal d'accusation du Tribunal cantonal vaudois, par arrêt du 21 août 2008, a prononcé un non-lieu en faveur de X._ et ordonné qu'il soit soumis à un traitement selon l'art. 59 CP. Il l'a par ailleurs astreint à verser une indemnité pour tort moral de 20'000 fr. au père de la victime et a mis les frais de la procédure à sa charge.
C. Cet arrêt retient, en résumé, ce qui suit.
C.a Le 8 mars 2007, dans un camping, X._ a forcé la serrure de la porte de la caravane de A._, dans laquelle il a dormi.
Le 7 avril 2007, il a frappé à la tête, à de nombreuses reprises, son amie B._ et exercé sur elle des violences au niveau du cou, provoquant son décès. Il a ensuite aspergé avec du liquide inflammable le cadavre de son amie, qui se trouvait sur le matelas de la chambre à coucher située à l'étage supérieur de l'appartement, et lui a bouté le feu. Après quoi, il a traîné le corps, partiellement en flamme, jusqu'à une barrière surplombant la cage de l'escalier, puis l'a jeté par dessus la barrière à l'étage inférieur.
Du mois d'août 2005 au 7 avril 2007, X._ a consommé de l'herbe, du haschich et, à une reprise, de la cocaïne.
C.b S'agissant du complément d'enquête sollicité par X._, le Tribunal d'accusation a indiqué qu'il faisait sienne la motivation du juge d'instruction, qui avait refusé d'y donner suite au motif que sa rencontre du 14 mai 2007 avec les experts et le rapport d'autopsie confirmaient le déroulement des événements, notamment que la mort de B._ avait été causée par une violence au niveau du cou et que le feu avait été bouté au corps post-mortem. Quant à l'audition d'un témoin, susceptible d'accréditer la thèse d'un suicide de B._, ses éventuelles déclarations en ce sens se heurteraient de toute manière aux constatations des experts.
C.c Le Tribunal d'accusation, tenant les faits pour établis, a relevé que X._ devrait être renvoyé en jugement comme accusé d'assassinat, subsidiairement de meurtre, d'incendie intentionnel, de dommages à la propriété, de violation de domicile et de contravention à la LStup. L'expertise psychiatrique ordonnée au cours de l'enquête concluait toutefois que l'intéressé, à raison d'une schizophrénie paranoïde grave et chronique, était, au moment des faits, irresponsable au sens de l'art. 19 al. 1 CP. Il y avait dès lors lieu de mettre fin à l'action pénale par un non-lieu.
C.d Une mesure selon l'art. 59 CP a été ordonnée sur la base de l'expertise, qui la préconisait en raison de la pathologie de l'intéressé, de son observance aléatoire du traitement prescrit et du risque de récidive d'actes de même nature qu'il présentait.
C.e Observant qu'il était compétent pour le faire, le Tribunal d'accusation à alloué au père de la victime une indemnité pour tort moral de 20'000 fr., à verser par l'intéressé. Il a mis les frais à la charge de ce dernier, au motif que, par son comportement illicite, il avait donné lieu à l'ouverture de la procédure.
D. X._ forme un recours en matière pénale au Tribunal fédéral, précisant que, pour le cas où il ne serait pas recevable comme tel, il devrait être considéré comme un recours constitutionnel subsidiaire. Se plaignant d'arbitraire et d'une violation du principe in dubio pro reo découlant de la présomption d'innocence, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour qu'elle ordonne un complément d'instruction. Parallèlement, il sollicite l'assistance judiciaire. Des déterminations n'ont pas été requises.
Considérant en droit:
1. L'arrêt attaqué, qui est final, a été rendu dans une cause de droit pénal. Il peut donc faire l'objet d'un recours en matière pénale, qui peut notamment être formé pour violation du droit fédéral, y compris les droits constitutionnels. Partant, le recours constitutionnel subsidiaire est exclu (art. 113 LTF).
2. Sous peine d'irrecevabilité, le recours doit être motivé conformément à l'art. 42 al. 2 LTF, qui exige que le recourant indique en quoi la décision attaquée viole le droit. Les griefs mentionnés à l'art. 106 al. 2 LTF, en particulier celui pris d'une violation des droits fondamentaux, sont toutefois soumis à des exigences de motivation accrues, qui correspondent à celles qui résultaient de l'art. 90 al. 1 let. b OJ pour le recours de droit public (ATF 133 IV 286 consid. 1.4 p. 287).
3. Le mémoire de recours doit indiquer les conclusions (art. 42 al. 1 LTF). Si le Tribunal fédéral admet le recours, il peut statuer lui-même sur le fond (art. 107 al. 2 LTF). Cette faculté implique que le recourant ne se borne pas à demander l'annulation de la décision attaquée, mais prenne des conclusions sur le fond. Il n'est fait exception à cette règle que si le Tribunal fédéral, en cas d'admission du recours, ne serait de toute manière pas en situation de statuer lui-même sur le fond, mais ne pourrait que renvoyer la cause à l'autorité cantonale. Tel est notamment le cas lorsque cette dernière ne s'est pas prononcée sur des faits déterminants (ATF 134 III 379 consid. 1.3 p. 383/384).
4. Le recourant se plaint d'arbitraire dans l'établissement des faits ainsi que d'une violation du principe in dubio pro reo en tant que règle de l'appréciation des preuves. Il fait en substance valoir que, s'agissant des principales infractions pour lesquelles il a été mis en cause, soit l'assassinat, subsidiairement le meurtre, et l'incendie intentionnel, il subsiste des doutes sérieux quant au déroulement des faits. Plus précisément, les éléments de preuve réunis seraient insuffisants pour conclure qu'il a commis ces infractions, respectivement pour exclure que la victime s'est suicidée. Il y aurait dès lors lieu de procéder aux investigations supplémentaires qu'il avait sollicitées de l'autorité cantonale, à laquelle la cause devrait donc être renvoyée à cette fin.
Le recours est ainsi dirigé contre le prononcé au pénal. Il vise en effet à un complètement des faits, en vue d'établir que le recourant ne serait pas coupable des infractions litigieuses ou, du moins, qu'il subsisterait un doute sérieux à ce sujet, qui devrait lui profiter. A cet égard, sous l'angle de sa qualité pour recourir, le recourant fait valoir que, nonobstant le prononcé d'un non-lieu en sa faveur, elle ne saurait lui être déniée. A l'appui, il expose qu'il a bénéficié d'un non-lieu au motif qu'il était irresponsable au moment des faits, non pas au motif qu'il ne serait pas coupable des infractions litigieuses. Il aurait donc un intérêt juridique à obtenir un renvoi de la cause pour faire compléter l'instruction, car, s'il devait alors s'avérer qu'il n'est pas ou pas suffisamment établi qu'il puisse avoir commis les infractions litigieuses, il devrait bénéficier d'un non-lieu pour ce motif. Il aurait un intérêt juridique à une modification du non-lieu en ce sens, consistant dans l'intérêt à la manifestation de la vérité au pénal et compte tenu aussi des conséquences d'une telle modification sur le plan civil et sur le sort des frais.
5. Un recours n'est pas ouvert pour obtenir simplement une motivation différente. Encore faut-il que la nouvelle motivation, le cas échéant, ait pour effet de modifier la décision dans son résultat, sans quoi l'intérêt juridique au recours fait défaut. Or, un constat d'innocence aboutit de toute manière au prononcé d'un non-lieu. Au demeurant, le recourant a été mis en cause pour d'autres infractions (dommages à la propriété, violation de domicile et contravention à la LStup), qu'il ne conteste pas. Il s'ensuit que l'admission du présent recours et le renvoi de la cause pour complément d'instruction, même si ce dernier conduisait à un constat d'innocence quant aux infractions litigieuses, ne modifierait pas l'arrêt attaqué dans son résultat en tant qu'il met fin à l'action pénale par un non-lieu, ni même ne le modifierait entièrement dans sa motivation. Dans la mesure où le recours est dirigé contre le non-lieu, soit le prononcé au pénal, il est par conséquent irrecevable, faute par le recourant d'avoir un intérêt juridique à en obtenir l'annulation ou la modification (cf. art. 81 al. 1 let. b LTF).
6. Bien qu'il constate l'irresponsabilité du recourant, l'arrêt attaqué astreint ce dernier au paiement d'une indemnité pour tort moral au père de la victime des infractions contestées. Celui qui a agi en état d'irresponsabilité, au sens de l'art. 19 al. 1 CP, ne peut toutefois se voir reprocher aucune faute, de sorte que l'une des conditions requises pour qu'il puisse être condamné à réparer le dommage causé fait défaut. C'est donc à tort que l'arrêt attaqué condamne le recourant au paiement d'une indemnité pour tort moral au père de la victime. Par ailleurs, un constat d'innocence quant aux infractions contestées serait susceptible d'influencer, du moins partiellement, le prononcé sur les frais, qui a été justifié par le fait que le recourant a donné lieu, par son comportement objectivement contraire au droit, à l'ouverture de la procédure pénale. L'annulation de l'arrêt attaqué sur ces points supposerait toutefois que ceux-ci soient valablement contestés dans le recours. Or, le recourant, sur la base d'une argumentation dirigée exclusivement contre le prononcé pénal, se borne à demander l'annulation de l'arrêt attaqué. Il ne conteste en rien la décision sur les prétentions civiles, ne prenant aucune conclusion concrète en ce qui les concerne (cf. ATF 134 III 235 consid. 2 p. 236/237; 128 IV 53 consid. 6a p. 70). De même, il ne conteste en rien le prononcé sur les frais, dont le sort et la répartition relèvent au premier chef du droit cantonal, dont il n'invoque aucune application arbitraire. Il n'est dès lors pas possible d'entrer en matière sur ces points.
7. Au demeurant, indépendamment des considérations qui précèdent, le recours serait de toute manière irrecevable. L'argumentation du recourant sur le fond se réduit en effet à citer des extraits de déclarations, à rappeler le contenu et les motifs des réquisitions présentées et, pour le surplus, à une rediscussion purement appellatoire de l'appréciation des preuves. A cet égard, il y a lieu de rappeler qu'une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable où même critiquable; il faut qu'elle soit manifestement insoutenable, et cela non seulement dans sa motivation mais dans son résultat (ATF 134 I 140 consid. 5.4 p. 148; 133 I 149 consid. 3.1 p. 153 et les arrêts cités). L'arbitraire allégué doit par ailleurs être suffisamment démontré, sous peine d'irrecevabilité (cf. supra, consid. 2). Le présent recours ne satisfait manifestement pas à ces exigences. En particulier, le recourant n'établit pas que l'autorité cantonale aurait apprécié arbitrairement, au sens défini par la jurisprudence, l'avis des experts et le rapport d'autopsie, ni qu'il était absolument inadmissible d'admettre que le témoignage requis, quand bien même il viendrait à l'appui de la thèse d'un suicide de la victime, ne suffirait pas à faire contre-poids à l'opinion des experts. Autrement dit, l'arbitraire prétendu n'est pas démontré conformément aux exigences de motivation de l'art. 106 al. 2 LTF.
8. Sur le vu de ce qui précède, le recours est irrecevable. Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (art. 64 al. 1 LTF). Le recourant, qui succombe, devra donc supporter les frais (art. 66 al. 1 LTF), dont le montant sera toutefois arrêté en tenant compte de sa situation financière. Il n'y a pas lieu d'allouer une indemnité à l'intimé, qui n'a pas été amené à se déterminer sur le recours.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est déclaré irrecevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal d'accusation du Tribunal cantonal du canton de Vaud.
Lausanne, le 28 novembre 2008
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Schneider Angéloz