Faits:
A. C.Y._ et D.Y._ sont propriétaires des parcelles 3'029 et 1'432 de la commune de Lausanne, sises au chemin du Petit-Château 2 et précédemment propriété de Z._ SA. Ces bien-fonds sont colloqués en zone mixte de moyenne densité selon le Plan général d'affectation et son règlement du 26 juin 2006 (ci-après: le RPGA). La parcelle 3'029 supporte notamment une habitation et garage ainsi qu'une maison de maître, figurant sous la note 4 au recensement architectural.
A.X._ et B.X._ sont propriétaires de la parcelle 2'918, sise au chemin du Petit-Château 3-5.
Le chemin du Petit-Château est formé d'une partie piétonne qui part du début de l'avenue Louis-Vulliemin en direction de Sauvabelin. Il débouche ensuite à nouveau au nord sur ladite avenue. Cette deuxième partie est ouverte à la circulation des véhicules, à la suite de la constitution d'une servitude de passage à pied et pour véhicules en faveur des immeubles le bordant, notamment la parcelle 3'029.
B. Le 29 octobre 2010, Z._ SA a déposé une demande de permis de construire portant sur la transformation et l'agrandissement de la maison existante, ainsi que la création d'une piscine couverte, de cinq lucarnes et une verrière en toiture et d'un garage enterré ainsi que sur des aménagements extérieurs. Mise à l'enquête publique, le projet a suscité plusieurs oppositions, dont celle des époux X._. Il ressort de la synthèse 109614 du 11 mai 2011 de la Centrale des autorisations CAMAC que les autorisations spéciales nécessaires et préavis favorables ont été délivrés.
La municipalité de Lausanne (ci-après: la municipalité) a levé les oppositions et délivré le permis de construire sollicité, assorti de plusieurs charges, par décision du 18 mai 2011.
Les époux X._ ont porté leur cause devant la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: le Tribunal cantonal). Après avoir procédé à une vision locale en présence des parties, la cour cantonale a partiellement admis le recours et réformé la décision de la municipalité du 18 mai 2011, en ce sens que le permis de construire inclura expressément, en tant que condition, les mesures de protection exigées dans le rapport établi le 2 avril 2012 par le Service des Parcs et Domaines de la Ville de Lausanne ainsi que celles exigées par les "Recommandations pour la protection des arbres, selon les directives de l'Union Suisse des Parcs et Promenades (USSP)". La décision attaquée a été confirmée pour le surplus.
C. Agissant par la voie du recours en matière de droit public, A.X._ et B.X._ demandent au Tribunal fédéral d'annuler l'arrêt du Tribunal cantonal du 28 juin 2012. Ils se plaignent en substance d'une application arbitraire du RPGA.
Le Tribunal cantonal renonce à se déterminer et conclut au rejet du recours, au bénéfice des considérants de son arrêt. La municipalité conclut également au rejet du recours et à la confirmation des décisions entreprises. Les intimés demandent au Tribunal fédéral de rejeter le recours, dans la mesure de sa recevabilité.
Par ordonnance du 21 septembre 2012, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif des recourants.

Considérant en droit:
1. 1.1 Dirigé contre une décision rendue dans le domaine du droit public de l'aménagement du territoire et des constructions, le recours est en principe recevable comme recours en matière de droit public conformément aux <ref-law>. Aucune des exceptions prévues à l'<ref-law> n'est réalisée.
Selon la jurisprudence, le voisin a qualité pour agir lorsque son terrain jouxte celui du constructeur ou se trouve à proximité immédiate de celui-ci (<ref-ruling> consid. 2b p. 174; <ref-ruling> consid. 5c p. 511). Tel est le cas des recourants, propriétaires de la parcelle 2'918 qui n'est séparée de celle des intimés que par le chemin du Petit-Château.
1.2 Les recourants n'ont formulé qu'une conclusion cassatoire, alors que le recours en matière de droit public - contrairement à l'ancien recours de droit public (art. 84 ss OJ) - n'est pas un recours en cassation mais un recours en réforme (<ref-law>; cf. <ref-ruling> consid. 3.1 p. 491). Il ressort cependant clairement de leur mémoire que les intéressés entendent demander également l'annulation de l'autorisation de construire délivrée le 18 mai 2011. Comprise dans ce sens, leur conclusion cassatoire ne s'oppose pas à l'entrée en matière sur le recours.
2. Le Tribunal fédéral applique le droit fédéral d'office (<ref-law>). En revanche, il ne revoit l'interprétation et l'application du droit cantonal que sous l'angle de l'arbitraire. Il ne s'écarte de la solution retenue que si celle-ci se révèle insoutenable, en contradiction manifeste avec la situation effective, ou si elle a été adoptée sans motifs objectifs et en violation d'un droit certain, ce qu'il appartient au recourant de démontrer par une argumentation qui réponde aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 3 p. 351 s.; <ref-ruling> consid de 1.4.2 p. 254 et les références). Le recourant doit ainsi indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer par une argumentation précise en quoi consiste la violation. En outre, si l'interprétation défendue par la cour cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable (<ref-ruling> consid. 5.1 p. 17).
3. Dans un premier grief, les recourants reprochent au Tribunal cantonal d'avoir procédé à une application arbitraire des art. 81 et 114 RPGA.
L'art. 114 RPGA prévoit que la distance entre un bâtiment et la limite de propriété est de 6 m au minimum. En vertu de l'art. 81 al. 1 RPGA, la municipalité peut, pour des constructions souterraines ou semi-enterrées, déroger aux règles sur les distances aux limites pour autant que la topologie existante avant l'exécution des travaux ne soit pas sensiblement modifiée. Les constructions concernées ne peuvent en aucun cas être habitables (al. 2 let. c).
3.1 En l'espèce, le Tribunal cantonal a considéré que le tiers nord-est de la piscine se situera entièrement sous le niveau du terrain naturel et que la construction sera implantée de sorte à s'enfoncer dans le talus situé derrière le bâtiment existant. La construction, semi-enterrée, n'engendrera ainsi aucune modification sensible de la topographie existante. La municipalité était dès lors fondée à autoriser l'implantation de la piscine en dérogation aux règles sur les distances aux limites.
3.2 Les recourants font valoir que la piscine couverte de 87 m2, complétée d'un local de fitness de 18 m2 ainsi que d'un w-c douche et d'un local technique, représente un espace habitable au sens de la jurisprudence cantonale. De même, le Tribunal fédéral avait confirmé que l'espace occupé par une piscine couverte devait être inclus dans la surface nette de plancher habitable car assimilable à une pièce luxueuse de la construction (<ref-ruling>). Selon les recourants, la condition de l'art. 81 al. 2 let. c RPGA n'est dès lors pas remplie et le Tribunal cantonal a fait preuve d'arbitraire en confirmant la dérogation litigieuse.
Dans l'arrêt du Tribunal cantonal AC.2009.0207 du 24 septembre 2010 cité par les recourants, les juges cantonaux ont retenu qu'un grand espace wellness, comprenant piscine, sauna, douche et espace détente, devait être qualifié d'habitable, au vu de l'importance de ces installations; ils se sont notamment référés à un arrêt AC.2009.0091 du 17 février 2010, où ils avaient laissé indécise la question de savoir si un hamman/jacuzzi devait être tenu pour un local pour la pratique du sport. Or, dans le cas d'espèce, les locaux projetés servent exclusivement à la pratique du sport (piscine et local fitness); il n'est ainsi pas insoutenable de considérer qu'ils ne servent pas au séjour permanent et ne sont pas habitables au sens de l'art. 81 al. 2 let. c RPGA.
A cela s'ajoute que, selon la jurisprudence cantonale, la réglementation sur la distance aux limites tend principalement à préserver un minimum de lumière, d'air et de soleil entre les constructions afin de garantir un aménagement sain et rationnel; elle a pour but d'éviter notamment que les habitants de bien-fonds contigus n'aient l'impression que la construction voisine les écrase. Elle vise également à garantir un minimum de tranquillité aux habitants. Enfin, elle définit une norme de densité des constructions (AC.2010.0007 du 25 mai 2010 consid. 3b et les références citées). Or, en l'espèce, la dérogation ne porte que sur la surface souterraine du projet, la partie ajourée respectant les distances à la limite. Les recourants n'allèguent au demeurant pas que la construction souterraine modifierait sensiblement la topographie existante (art. 81 al. 1 in fine RPGA) si bien que le Tribunal cantonal pouvait, sans arbitraire, confirmer l'octroi de la dérogation contestée.
3.3 Mal fondé, le recours doit être rejeté sur ce point.
4. Les recourants soutiennent ensuite que le projet litigieux déroge à la règle relative à la longueur des bâtiments.
En vertu de l'art. 113 RPGA, la longueur des bâtiments est limitée à 25 m. L'art. 18 RPGA précise que la longueur d'un bâtiment est celle du rectangle de longueur minimale dans lequel il peut s'inscrire; les parties saillantes, telles qu'avant-toits, perrons, balcons, avant-corps, etc., ne sont pas prises en compte.
4.1 Il ressort de l'arrêt attaqué que la façade nord-ouest présente une longueur de 25 m si l'on excepte le couvert à voitures et le garage souterrain, au nord-ouest. Les juges cantonaux expliquent en effet que la communication entre le bâtiment principal et le couvert doit être condamnée, au vu des plans; ce couvert et le garage contigu constituent dès lors des dépendances, au sens de l'art. 39 du règlement d'application de la loi du 4 décembre 1985 sur l'aménagement du territoire et les constructions du 19 septembre 1986 (RLATC) et ne doivent ainsi pas compter dans le calcul de la longueur. Par surabondance, le garage sera construit entièrement sous le niveau du terrain naturel. Dès lors, à teneur de l'art. 81 al. 2 let. b RPGA, il n'entre pas dans le calcul des dimensions maximales du bâtiment.
4.2 Les recourants allèguent que les bâtiments existants mesurent déjà plus de 27 m. Le Tribunal cantonal aurait arbitrairement jugé que le couvert actuel ne devait pas être pris en considération et qu'il était possible d'ajouter une nouvelle extension en prolongation des constructions existantes. Ce faisant, les recourants, qui se contentent d'exposer leur propre opinion, ne démontrent nullement l'arbitraire du raisonnement précité des juges cantonaux. Quoi qu'il en soit, l'arrêt attaqué n'apparaît pas insoutenable sur ce point, ni dans sa motivation, ni dans son résultat. S'agissant des craintes des recourants de voir rétablir ultérieurement la communication entre le bâtiment principal et les dépendances, il convient de relever, avec le Tribunal cantonal, qu'il appartiendra à la municipalité de s'assurer, lors de la délivrance du permis d'habiter, que les conditions fixées par le permis de construire ont été respectées et que l'exécution correspond en tous points aux plans mis à l'enquête.
4.3 Au vu de ce qui précède, c'est en vain que les recourants font valoir un "cumul" arbitraire de dérogations. En effet, le projet ne fait pas l'objet de plusieurs dérogations s'agissant de la longueur des bâtiments. Les recourants semblent d'ailleurs perdre de vue que les constructions souterraines (piscine et garage) n'entrent pas dans le calcul des dimensions maximales des bâtiments (art. 81 al. 2 let. b RPGA).
Les critiques relatives aux dérogations à la règle relative à la longueur des bâtiments doivent dès lors être rejetées.
5. Le dernier grief des recourants concerne l'impossibilité présumée d'utiliser la servitude de passage sur le chemin du Petit-Château pour un chantier d'une telle ampleur. Ils invoquent l'art. 19 de loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT; RS 700).
En vertu de l'art. 19 al. 1 LAT, un terrain est réputé équipé lorsqu'il est desservi d'une manière adaptée à l'utilisation prévue par des voies d'accès et par des conduites auxquelles il est possible de se raccorder sans frais disproportionnés pour l'alimentation en eau et en énergie, ainsi que pour l'évacuation des eaux usées. Une voie d'accès est adaptée à l'utilisation prévue lorsqu'elle est suffisante d'un point de vue technique et juridique pour accueillir tout le trafic de la zone qu'elle dessert (<ref-ruling> consid. 3a p. 68 et les arrêts cités).
En réalité, les recourants ne contestent pas que les parcelles des intimés disposent d'un accès suffisant au sens de l'art. 19 LAT. Ils considèrent en revanche que l'ampleur projetée du chantier est incompatible avec les espaces disponibles le long de la servitude. Cette problématique ne ressortit toutefois pas du domaine de l'équipement, si bien que la disposition invoquée n'est pas applicable au cas d'espèce.
S'agissant du trafic lié au chantier, l'arrêt attaqué souligne à juste titre que ce point relève directement de l'application des règles de l'art en matière de construction et n'a aucune incidence sur la délivrance du permis de construire. Un éventuel litige sur ces questions relève dès lors du droit privé. De même, les questions relatives au respect des servitudes de droit privé relèvent de la compétence du juge civil et n'ont pas à être examinées céans. Le grief doit dès lors être rejeté.
6. Il résulte de ce qui précède que le recours, entièrement mal fondé, doit être rejeté, aux frais de leurs auteurs (art. 65 et 66 al. 1 et 5 LTF). Ces derniers verseront une indemnité de dépens aux intimés qui obtiennent gain de cause avec l'assistance d'un avocat (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Les recourants verseront aux intimés une indemnité de 2'000 fr. à titre de dépens, solidairement entre eux.
4. Le présent arrêt est communiqué aux parties, à la Municipalité de Lausanne et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 6 décembre 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard