Faits:
A. La commune de Lausanne est propriétaire de la parcelle n° 15'410 du registre foncier communal, sise partiellement en zone agricole et partiellement en zone à bâtir. La partie située en amont du bien-fonds est colloquée en "zone mixte de faible densité", selon le règlement du plan général d'affectation de Lausanne du 26 juin 2006 (RPGA). A la faveur d'un droit de superficie à constituer en droit distinct et permanent sur la partie constructible du terrain, la Société coopérative Z._ a requis l'autorisation de construire un lotissement de douze villas jumelles et de quatre villas individuelles, avec trente-quatre places de stationnement. Les villas jumelées sont disposées en deux rangées de six maisons formant chacune deux groupes de trois villas reliées entre elles par deux garages. Quant aux quatre maisons individuelles, elles sont composées d'un sous-sol, d'un rez-de-chaussée, d'un étage et de combles. Le projet prévoit également des surfaces annexes telles que des garages pour une voiture, des couverts pour deux voitures et des places de parc à l'extérieur. Soumis à l'enquête publique du 4 septembre au 22 octobre 2007, le lotissement projeté a notamment suscité l'opposition de X._ et Y._ propriétaires d'un bien-fonds contigu. A la demande de la Municipalité de Lausanne (ci-après: la municipalité), quelques modifications de minime importance ont été apportées au projet, sans qu'une enquête publique complémentaire ait été exigée.
Par décision du 10 avril 2008, la municipalité a levé les oppositions et confirmé le permis de construire requis qui avait été délivré le 19 mars 2008. X._ et Y._ ont interjeté recours auprès du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) contre cette décision. Le 22 janvier 2008, le Tribunal cantonal a procédé à une inspection locale en présence des parties. Par arrêt du 2 février 2009, il a rejeté le recours. Il a considéré en substance que l'autorisation de construire contestée était conforme à l'affectation de la "zone mixte de faible densité" définie aux art. 118 à 126 RPGA. Il a notamment qualifié les deux couverts à voitures situés entre les quatre séries de trois villas jumelles de dépendances de peu d'importance et il a estimé que les combles des villas individuelles n'étaient pas habitables.
B. Agissant par la voie du recours en matière de droit public, X._ et Y._ demandent au Tribunal fédéral, principalement de réformer l'arrêt du Tribunal cantonal en ce sens qu'il annule la décision de la municipalité du 10 avril 2008, subsidiairement d'annuler l'arrêt attaqué et de renvoyer la cause à l'autorité cantonale pour nouveau jugement dans le sens des considérants. Ils se plaignent notamment d'une application arbitraire des art. 120, 122, 123 et 125 RPGA et de l'art. 39 du règlement d'application de la loi du 4 décembre 1985 sur l'aménagement du territoire et les constructions (RLATC; RSV 700.11.1).
Dans ses observations, le Tribunal cantonal conclut au rejet du recours, dans la mesure où il est recevable. La Municipalité de Lausanne et la Société coopérative Z._ ont présenté des déterminations et concluent au rejet du recours. Par courrier du 28 mai 2009, les recourants ont spontanément dupliqué.
Par ordonnance du 31 mars 2009, le Président de la Ire Cour de droit public a rejeté la requête d'effet suspensif présentée par les recourants.
Considérant en droit:
1. Dirigé contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public de l'aménagement du territoire et des constructions (art. 82 let. a LTF), le recours est en principe recevable comme recours en matière de droit public selon les art. 82 ss LTF, aucune des exceptions prévues à l'art. 83 LTF n'étant réalisée. Les recourants ont pris part à la procédure de recours devant le Tribunal cantonal. Ils sont particulièrement touchés par l'arrêt attaqué, qui confirme l'autorisation de construire un lotissement de douze villas sur une parcelle directement voisine de la leur. Ils invoquent notamment des dispositions de droit des constructions susceptibles d'avoir une incidence sur leur situation de fait ou de droit (art. 120, 122, 123, 125 RPGA; art. 39 RLATC), de sorte qu'ils ont en principe la qualité pour agir au sens de l'art. 89 al. 1 LTF. Les autres conditions de recevabilité sont par ailleurs réunies, si bien qu'il y a lieu d'entrer en matière.
2. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, les recourants invoquent une violation de la garantie du juge naturel (art. 30 al. 1 Cst), au motif que l'un des juges assesseurs aurait eu une discussion "familière" avec l'auteur du projet litigieux, lors de l'inspection locale du 22 janvier 2008.
2.1 La garantie d'un tribunal indépendant et impartial instituée par l'art. 30 al. 1 Cst. permet, indépendamment du droit de procédure cantonal, de demander la récusation d'un juge dont la situation ou le comportement est de nature à susciter des doutes quant à son impartialité. Elle vise à éviter que des circonstances extérieures à l'affaire puissent influencer le jugement en faveur ou au détriment d'une partie. Elle n'impose pas la récusation seulement lorsqu'une prévention effective est établie, car une disposition interne de la part du juge ne peut guère être prouvée; il suffit que les circonstances donnent l'apparence d'une prévention et fassent redouter une activité partiale du magistrat; cependant, seules les circonstances objectivement constatées doivent être prises en compte, les impressions purement individuelles n'étant pas décisives (ATF 134 I 20 consid. 4.2 p. 21; 133 I 1 consid. 5.2 p. 3; ATF 131 I 24 consid. 1.1 p. 25 et les arrêts cités).
A teneur de l'art. 10 al. 2 de la loi cantonale sur la procédure administrative du 28 octobre 2008 (LPA/VD; RSV 173.36), les parties qui souhaitent demander la récusation d'une autorité ou de l'un ses membres doivent le faire dès connaissance du motif de récusation. Il est d'ailleurs de jurisprudence constante que le motif de récusation doit être invoqué aussitôt que l'intéressé en a eu connaissance, sous peine d'être déchu du droit de s'en prévaloir ultérieurement. En effet, celui qui omet de dénoncer immédiatement un tel vice et laisse le procès se dérouler sans intervenir, agit contrairement à la bonne foi et voit se périmer son droit de se plaindre ultérieurement de la violation qu'il allègue (ATF 134 I 20 consid. 4.3.1 p. 21; 132 II 485 consid. 4.3 p. 496; 130 66 consid. 4.3 p. 75; 126 III 249 consid. 3c p. 253; 119 Ia 221 consid. 5a p. 228 et les arrêts cités).
2.2 En l'espèce, les recourants, assistés d'un mandataire professionnel, n'ont pas demandé la récusation du juge assesseur en question, séance tenante lors de l'inspection locale du 22 janvier 2008, ni dans les jours qui ont suivi. En ne faisant valoir la prévention dudit magistrat qu'une fois l'arrêt prononcé, les intéressés n'ont pas agi à temps et leur moyen est irrecevable. Il importe peu que l'arrêt attaqué ait été rendu rapidement, ce à quoi les recourants pouvaient s'attendre. Au surplus, ceux-ci ne sont pas parvenus à établir l'existence d'un lien d'amitié étroit entre ledit juge et l'auteur du projet litigieux, leur argumentation se fondant uniquement sur des affirmations unilatérales non étayées en relation avec des événements de plus de vingt-cinq ans.
3. Les recourants font ensuite valoir que les quatre groupes de construction composés de trois villas jumelles reliées entre elles par des garages violeraient le principe de l'ordre non contigu prévu par l'art. 120 RPGA. Ils prétendent que ces trois villas accolées ne sauraient former un "bâtiment comprenant plusieurs unités accolées" au sens de l'art. 125 RPGA, faute notamment de toiture commune. Ils se plaignent d'une application arbitraire des art. 120, 122 (en relation avec l'art. 28) et 125 RPGA.
3.1 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 134 I 263 consid. 3.1 p. 266; 131 I 57 consid. 2 p. 61 et la jurisprudence citée), ce que les recourants doivent démontrer en vertu de l'art. 106 al. 2 LTF (ATF 133 II 396 consid. 3.2 p. 400).
3.2 L'art. 120 RPGA prévoit que, dans les "zones mixtes de faible densité", l'ordre non contigu est obligatoire. En vertu des art. 28 et 122 RPGA, la distance à observer entre des bâtiments situés sur la même propriété est de deux fois cinq mètres. L'art. 125 RPGA précise toutefois que la construction d'un bâtiment comprenant plusieurs unités accolées est admissible, le nombre de logements étant limité à trois par unité. A teneur de l'art. 121 RPGA, la longueur totale d'un bâtiment ne peut excéder trente mètres.
3.3 Les recourants estiment que les villas jumelles devraient être considérées comme des villas individuelles, au motif qu'elles disposent de leur propre accès et d'aménagements extérieurs indépendants, les décrochements horizontaux et verticaux soulignant de surcroît leur individualité. Les intéressés se prévalent du fait que la jurisprudence cantonale aurait toujours accordé une importance élevée à l'apparence d'unité extérieure pour définir si l'on est en présence de deux bâtiments juxtaposés ou de deux bâtiments totalement séparés devant respecter les règles de l'ordre non contigu. Il ressort cependant des arrêts cantonaux cités par les recourants à l'appui de leur affirmation, que l'apparence extérieure est seulement un critère parmi d'autres, le faisceau d'indices comprenant notamment la liaison fonctionnelle des villas avec les éventuels locaux communs, la surface de plancher respective de chaque construction, la conception architecturale, les matériaux des revêtements extérieurs ainsi que les objectifs de la planification cantonale, régionale et communale dans le domaine concerné.
Or, en l'occurrence, à l'instar de la municipalité, le Tribunal cantonal a considéré que le règlement communal n'imposait pas de critères liés à l'aspect extérieur du bâtiment et n'exigeait pas que les unités accolées donnent l'impression de n'être qu'un seul et unique bâtiment avec un toit commun. Une liaison par des garages était suffisante pour respecter l'art. 125 RPGA. Si le législateur communal avait voulu imposer des bandes massives, sans décrochements au niveau des toitures, des façades et des hauteurs, il n'aurait pas manqué de le préciser. Il n'aurait d'ailleurs pas non plus évoqué la possibilité d'unités accolées, puisque la simple référence à la longueur totale du bâtiment, prévue à l'art. 121 RPGA, aurait suffi. A juste titre, les juges cantonaux en ont déduit que le règlement communal autorisait deux différents types de bâtiments, la bande monolithique et l'ensemble d'unités accolées les unes aux autres sans qu'il n'y ait de toitures et de façades communes. Ils ont également relevé qu'en l'espèce, la longueur totale des bâtiments composés chacun de trois unités accolées, était de 28 mètres et n'excédait ainsi pas la limite de 30 mètres imposée par l'art. 121 RPGA. S'ajoute à cela le fait que les garages collectifs présentent un lien fonctionnel avec les villas jumelles puisque l'une d'elle abrite des locaux à usage collectif (centrale de chauffage à bois pour tous les logements).
Dans ces conditions, les critiques des recourants ne sont pas de nature à démontrer le caractère manifestement insoutenable de l'argumentation du Tribunal cantonal. Ce d'autant moins que les découpes pratiquées atténuent la lourdeur qui pourrait résulter de bandes massives d'une hauteur constante et couverte d'un toit unique.
En définitive, en considérant que le règlement communal n'imposait pas que les unités accolées forment un ensemble monolithique du point de vue de l'aspect extérieur, que les villas jumelles n'avaient pas à respecter les distances entre bâtiments situés sur la même parcelle et que par conséquent le projet litigieux était conforme aux art. 120, 122, 28 et 125 RPGA, le Tribunal cantonal n'a pas fait preuve d'arbitraire.
4. Quant aux quatre villas individuelles, les recourants se plaignent d'une application arbitraire de l'art. 123 RPGA relatif au nombre de niveaux autorisés. Ils soutiennent en effet que les combles desdites villas seraient habitables, ce qui aurait pour conséquence que le nombre de niveaux autorisés par le règlement communal serait dépassé. Ils contestent également le calcul de la surface habitable au niveau du sous-sol.
4.1 L'art. 123 al. 1 RPGA prévoit que "le nombre de niveaux est limité à deux étages complets et un étage partiel de combles ou attique". L'alinéa 2 de cette disposition précise que la surface brute de plancher du dernier niveau, mesurée sur la partie dont le dégagement est d'au moins 2,40 mètres, ne peut excéder les 3/5èmes de la surface du deuxième niveau, cette surface pouvant aussi être répartie entre le dernier niveau et un niveau inférieur supplémentaire dégagé par la pente du terrain.
En outre, à teneur de l'art. 27 al. 2 RLATC, "dans les combles, la hauteur de 2,40 mètres doit être respectée au moins sur la moitié de la surface utilisable. Celle-ci n'est comptée qu'à partir d'une hauteur minimale de 1,30 mètre sous le plafond ou sous les chevrons". Quant à l'art. 28 al. 1 RLATC, il dispose que "tout local susceptible de servir à l'habitation ou au travail sédentaire est aéré naturellement et éclairé par une ou plusieurs baies représentant une surface qui n'est pas inférieure au 1/8ème de la superficie du plancher et de 1 m2 au minimum. Cette proportion peut être réduite au 1/15ème de la surface du plancher et à 0,80 m2 au minimum pour les lucarnes et les tabatières". Enfin, à teneur de l'art. 29 RLATC, lorsque des lucarnes ou des fenêtres à tabatière sont les seules surfaces éclairantes d'un local susceptible de servir à l'habitation ou au travail, l'une des fenêtres à tabatière ou l'une des lucarnes doit être disposée de manière à assurer une vue directe horizontale.
4.2 En l'espèce, il résulte du plan n° 018 versé au dossier, que la hauteur maximale des combles est limitée à 2,20 mètres, laquelle n'est d'ailleurs atteinte que sur une petite partie de la surface en raison de la toiture à quatre pans. Le Tribunal cantonal a aussi retenu que l'espace des combles, clairement désigné comme surface non habitable, ne comportait aucune fenêtre de grandes dimensions sur la façade pignon s'ouvrant sur un balcon, mais deux fenêtres de type "velux" de petites dimensions (78 cm x 70 cm), qui ne permettaient pas une aération et un éclairage suffisants pour des locaux susceptibles de servir à l'habitation.
Les recourants estiment que les combles doivent être considérés comme habitables, du fait qu'ils sont accessibles par un escalier et non pas par une trappe. Ils se réfèrent à un arrêt cantonal, lequel avance qu'"il ne suffit pas qu'un local ne soit pas réglementaire sous l'angle [du volume, de l'éclairage et de la hauteur des pièces habitables] pour conclure qu'il n'est pas habitable, alors qu'objectivement il pourrait être utilisé pour l'habitation malgré sa non-conformité". Le Tribunal cantonal a exposé que cette jurisprudence n'était pas applicable au cas particulier, dont les circonstances de fait relatives à la hauteur, au volume et à l'éclairage des combles sont très différentes (cf. arrêt attaqué consid. 3b). Dans ces conditions, en considérant que le volume, l'éclairage et la hauteur des combles ne permettaient pas objectivement l'utilisation de ceux-ci à des fins d'habitation, le Tribunal cantonal n'a pas fait preuve d'arbitraire au sens de la jurisprudence susmentionnée.
4.3 Les recourants critiquent également le calcul de la surface habitable au niveau du sous-sol des quatre villas individuelles. Ils estiment que la pièce désignée par les plans comme "douche/buanderie" serait "manifestement habitable" et ne saurait être décomptée de ladite surface brute.
Selon la jurisprudence, les propriétaires voisins ne peuvent se prévaloir d'un intérêt digne de protection à invoquer des dispositions édictées dans l'intérêt général ou dans l'intérêt de tiers que si elles peuvent avoir une influence sur leur situation de fait ou de droit. Cette exigence n'est pas remplie lorsque les recourants dénoncent une application arbitraire des dispositions du droit des constructions qui n'ont aucune influence sur leur situation de voisin, comme celles relatives à l'aération ou à l'éclairage des locaux d'habitation dans un bâtiment voisin (ATF 133 II 249 consid. 1.3.2 p. 253; arrêt 1C_64/2007 du 2 juillet 2007 consid. 2 et les références). En l'espèce, les recourants ne démontrent pas en quoi ils seraient particulièrement atteints par la répartition des pièces dans le sous-sol des villas: ils n'établissent pas l'influence de ces aménagements intérieurs sur le volume constructible, ce d'autant moins que les combles ne doivent pas être considérés comme habitables (cf. consid. 4.2). L'admission du recours sur ce point ne leur conférerait aucun avantage pratique dans la mesure où elle n'entraînerait pas nécessairement une modification du volume des villas ou de leur implantation. Faute de justifier d'un intérêt suffisant au sens de l'art. 89 LTF, les recourants ne peuvent donc se prévaloir de ce grief, qui doit être déclaré irrecevable.
5. Les recourants prétendent enfin que les deux couverts à voitures qui séparent les quatre séries de trois villas jumelles reliées entre elles par des garages ne sauraient être considérés comme des dépendances de peu d'importance au sens de l'art. 39 RLATC. Lesdits couverts ne pourraient par conséquent pas déroger à la distance de dix mètres à respecter entre bâtiments sis sur la même propriété.
5.1 L'art. 39 al. 1 RLATC prévoit qu'à défaut de dispositions communales contraires, les municipalités peuvent autoriser la construction de dépendances de peu d'importance, dont l'utilisation est liée à l'occupation du bâtiment principal, dans les espaces réglementaires entre bâtiments ou entre bâtiments et limites de propriété. L'alinéa 2 définit les dépendances de peu d'importance comme étant des constructions distinctes du bâtiment principal, sans communication interne avec celui-ci et dont le volume est de peu d'importance par rapport à celui du bâtiment principal, telles que pavillons, réduits de jardin ou garages particuliers pour deux voitures au plus. Il précise que ces dépendances ne peuvent en aucun cas servir à l'habitation ou à l'activité professionnelle. A teneur de l'alinéa 3, ces règles sont également valables pour d'autres ouvrages que des dépendances proprement dites: murs de soutènement, clôtures, places de stationnement à l'air libre notamment.
La jurisprudence cantonale retient que dans l'application de l'art. 39 al. 2 et 3 RATC, le rapport de proportionnalité entre le bâtiment principal et la dépendance projetée est décisif; c'est la raison pour laquelle la jurisprudence renonce à fixer des normes chiffrées absolues pour apprécier les situations au cas par cas, en tenant compte des circonstances spéciales (pour les références, cf. arrêt attaqué consid. 4a).
5.2 En l'occurrence, comme le règlement communal ne prescrit pas de règle spécifique concernant le volume des dépendances de peu d'importance, le Tribunal cantonal a comparé la surface totale des deux dépendances (112 m2), avec celle des villas jumelles accolées qu'il qualifie de bâtiments principaux (plus de 1'000 m2), ainsi qu'avec la dimension totale de la parcelle constructible (plus de 12'000 m2). Ce faisant, il a considéré que le rapport de 1/10 entre les couverts et la surface totale des constructions principales était largement suffisant pour qu'on puisse parler de dépendances de peu d'importance, ce d'autant plus que les couverts s'harmonisaient avec les bâtiments voisins en raison de leur implantation, de leur volume et de leur hauteur. Les recourants ne contestent pas que le rapport de 1/10 doit être considéré comme suffisant. Ils estiment cependant que la proportion devrait se faire entre la dépendance litigieuse et une seule des unités accolées. Ce grief doit être rejeté. En effet, comme l'art. 125 RPGA permet la construction d'un bâtiment comprenant trois unités accolées séparées par deux garages, le tout à condition que la longueur totale n'excède pas 30 mètres (cf. supra consid. 3), il n'est pas insoutenable de prendre comme référence le bâtiment complet, avec toutes ses unités accolées, l'ensemble ne pouvant être disséqué, sauf à violer la règle de non-contiguïté. Dans ces conditions, le Tribunal cantonal n'a pas fait preuve d'arbitraire dans l'application de l'art. 39 RLATC.
6. Il s'ensuit que le recours doit être rejeté, dans la mesure de sa recevabilité. Les recourants, qui succombent, doivent supporter les frais judiciaires (art. 65 et 66 LTF). Ils verseront en outre une indemnité de dépens à l'intimée, qui a eu recours à un avocat (art. 68 al. 2 LTF). La Municipalité de Lausanne n'a en revanche pas droit à des dépens (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 francs, sont mis à la charge de X._ et Y._.
3. Une indemnité de 2'000 francs est allouée à la Société coopérative Z._ à titre de dépens, à la charge de X._ et Y._ solidairement entre eux.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud.
Lausanne, le 6 juillet 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Féraud Tornay Schaller