Faits:
A. D._ est propriétaire de la parcelle n° 4117 du registre foncier de Peseux, située en zone à bâtir (zone de moyenne densité). Le 18 juin 2008, elle a demandé l'autorisation de construire sur ce bien-fonds un immeuble de trois appartements, dont un triplex dans les étages supérieurs. Ce projet a suscité l'opposition de la propriété par étages du Chemin de l'Orée 7 (ci-après: la PPE Orée 7), propriétaire de la parcelle voisine n° 3623, au motif que la façade du bâtiment projeté serait trop proche de la sortie de secours d'un abri de protection civile, pour laquelle elle bénéficiait d'une servitude. Le projet a également fait l'objet d'oppositions de propriétaires voisins, parmi lesquels figure A._, propriétaire avec son épouse de la parcelle n° 3065. Ils mentionnaient notamment qu'il fallait instruire la question de savoir si la distance entre le projet et le bâtiment des époux A._ était suffisante pour assurer la sortie d'un abri de protection civile. Le 19 mai 2009, la Commune de Peseux a levé les oppositions et délivré le permis de construire requis. Par décision du 10 février 2010, le Conseil d'Etat du canton de Neuchâtel a partielle-ment admis le recours formé par les opposants, pour une imprécision des plans quant à une petite partie de l'ouvrage dépassant le niveau du terrain naturel du côté de la parcelle des époux A._. Les griefs relatifs à la sortie de secours de l'abri de protection civile de la PPE Orée 7 étaient en revanche rejetés.
B. Divers opposants - dont A._ ainsi que B._ et C._, tous deux copropriétaires de la PPE Orée 7 - ont recouru contre cette décision auprès de la Cour de droit public du Tribunal cantonal du canton de Neuchâtel. Par arrêt du 16 mars 2011, cette autorité a rejeté le recours. Elle a considéré en substance que l'objet du litige se limitait à la distance de sécurité entre l'immeuble projeté et la sortie de secours de l'abri du bâtiment existant sur la parcelle n° 3623. La dérogation donnée à cet égard par le Service cantonal de la sécurité civile et militaire tenait compte de l'ensemble des circonstances pertinentes et elle ne violait pas les prescriptions en vigueur, de sorte que l'autorisation de construire pouvait être confirmée.
C. Agissant par la voie du recours en matière de droit public, A._, B._ et C._ demandent au Tribunal fédéral d'annuler cet arrêt, de refuser le permis de construire et, subsidiairement, de renvoyer la cause à l'instance précédente pour nouvelle décision. Ils invoquent une violation du droit fédéral et se plaignent d'un défaut de motivation. Ils requièrent en outre l'octroi de l'effet suspensif. Le Tribunal cantonal conclut au rejet du recours en se référant aux considérants de son arrêt. Le Conseil d'Etat conclut au rejet du recours dans la mesure de sa recevabilité. Au terme de leurs observations, la Commune de Peseux et D._ concluent au rejet du recours. Les recourants ont présenté des observations complémentaires.
D. Par ordonnance du 24 mai 2011, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif.

Considérant en droit:
1. Dirigé contre une décision rendue dans le domaine du droit public des constructions, le recours est recevable comme recours en matière de droit public conformément aux art. 82 ss de la loi sur le Tribunal fédéral (LTF; RS 173.110), aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Les recourants sont particulièrement touchés par la décision attaquée, qui confirme l'autorisation de construire un immeuble sur une parcelle directement voisine de leur bien-fonds, de sorte qu'ils ont la qualité pour recourir au sens de l'<ref-law> (cf. <ref-ruling> consid. 1.3.1 p. 252 s.; <ref-ruling> consid. 2b p. 174; <ref-ruling> consid. 5c p. 511). Pour le surplus, interjeté en temps utile contre une décision finale prise en dernière instance cantonale non susceptible de recours devant le Tribunal administratif fédéral, le recours est recevable au regard des art. 86 al. 1 let. d, 90 et 100 al. 1 LTF.
2. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, les recourants se plaignent d'une violation de leur droit d'être entendus, en raison d'un défaut de motivation des décisions de la Commune, du Conseil d'Etat et du Tribunal cantonal.
2.1 Tel qu'il est garanti à l'art. 29 al. 2 Cst., le droit d'être entendu confère à toute personne le droit d'exiger, en principe, qu'un jugement ou une décision défavorable à sa cause soit motivé. Cette garantie tend à éviter que l'autorité ne se laisse guider par des considérations subjectives ou dépourvues de pertinence; elle contribue ainsi à prévenir une décision arbitraire. L'objet et la précision des indications à fournir dépend de la nature de l'affaire et des circonstances particulières du cas; néanmoins, en règle générale, il suffit que l'autorité mentionne au moins brièvement les motifs qui l'ont guidée (<ref-ruling> consid. 2b p. 109; voir aussi <ref-ruling> consid. 3.3 p. 445; <ref-ruling> consid. 2b p. 102; <ref-ruling> consid. 2c p. 372). L'autorité peut se limiter à l'examen des questions décisives pour l'issue du litige; il suffit que le justiciable puisse apprécier correctement la portée de la décision et l'attaquer à bon escient et que l'autorité de recours puisse exercer son contrôle (<ref-ruling> consid. 4.1 p. 88; <ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 4.3 p. 540; <ref-ruling> consid. 2c p. 372 et les références). Par exception au principe de la nature formelle du droit d'être entendu, une violation de ce dernier est considérée comme réparée lorsque l'intéressé jouit de la possibilité de s'exprimer librement devant une autorité de recours disposant du même pouvoir d'examen que l'autorité inférieure, et qui peut ainsi contrôler librement l'état de fait et les considérations juridiques de la décision attaquée, à condition toutefois que l'atteinte aux droits procéduraux de la partie lésée ne soit pas particulièrement grave (<ref-ruling> consid. 2.2 p. 204; <ref-ruling> consid. 5.1 p. 390; <ref-ruling> consid. 2.2.3 p. 135 et les références citées ).
2.2 En l'espèce, les recourants se plaignent d'abord d'une motivation insuffisante de la décision rendue le 19 mai 2009 par la commune, qui serait restée "muette sur la problématique de la sortie de l'abri Orée 7". Cependant, comme les recourants le reconnaissent, la décision en question se réfère au préavis du Service cantonal de la sécurité civile et militaire, qui valide le projet litigieux et déroge aux normes relatives aux sorties de secours d'abris de protection civile. On ne voit pas ce qui s'opposerait à ce renvoi à l'avis d'un service spécialisé, étant précisé que la commune a par ailleurs répondu de manière circonstanciée aux nombreuses critiques des recourants, qui pouvaient dès lors contester le permis de construire en connaissance de cause. La décision de la commune satisfait donc aux exigences de motivation susmentionnées. Il en va de même de la décision du Conseil d'Etat du 10 février 2010. Certes, la formulation de cette décision est inexacte en ce sens qu'elle mentionne une dérogation relative à la sortie de l'abri du projet contesté et non de l'immeuble voisin. Elle se réfère toutefois également au préavis précité, qui est dénué d'équivoque à cet égard. Les recourants étaient donc parfaitement en mesure de comprendre cette décision et de la contester sur ce point, ce qu'ils n'ont d'ailleurs pas manqué de faire. Cette motivation insatisfaisante a au demeurant été largement compensée par la motivation du Tribunal cantonal, qui répond longuement aux griefs des recourants portant sur la distance de l'immeuble projeté par rapport à la sortie de l'abri de la parcelle n° 3623. La motivation de l'arrêt attaqué est manifestement suffisante sur ce point, quoi qu'en disent les recourants. Ces derniers se bornent du reste à reprocher au Tribunal cantonal de s'être fondé sur le préavis susmentionné, dont ils contestent "la nature et la validité juridiques". Ce grief relève du fond et n'a pas d'incidence sur l'appréciation de la motivation de l'arrêt querellé. Dès lors que celle-ci est conforme aux exigences définies par la jurisprudence, ce premier moyen doit être rejeté.
3. Les recourants invoquent par ailleurs une violation de l'art. 2.71 des Instructions techniques pour la construction d'abris obligatoires, édictées le 1er février 1984 par l'Office fédéral de la protection civile (ci-après: ITAP). A la lecture de leurs griefs, on comprend toutefois qu'ils s'en prennent également à l'application des art. 2.72 et 2.73 ITAP.
3.1 Selon l'art. 56 de la loi fédérale sur la protection de la population et sur la protection civile (LPPCi; RS 520.1), le Conseil fédéral détermine les exigences minimales auxquelles doivent répondre les ouvrages de protection. L'art. 37 al. 3 de l'ordonnance sur la protection civile (OPCi; RS 520.11) prévoit que c'est l'office fédéral qui fixe dans des instructions techniques les exigences minimales concernant l'équipement des ouvrages de protection. C'est dans ce cadre que s'inscrit la norme ITAP précitée, qui demeure applicable bien qu'elle ait été adoptée sous l'empire de l'ancienne loi sur les constructions de protection civile. Cette norme relevant du droit fédéral, le Tribunal fédéral l'examine librement, dans les limites des griefs présentés conformément aux exigences de l'<ref-law>.
Aux termes de l'art. 2.71 ITAP, les voies d'évacuation et les sorties de secours sont des éléments importants de l'abri, qui doivent permettre de quitter l'abri lorsque l'entrée normale est devenue inutilisable par suite des effets des armes et servir de prises d'air pour la ventilation de l'abri. L'art. 2.72 ITAP règle la disposition des voies d'évacuation et sorties de secours. Selon cet article, "on recherchera une disposition qui soit si possible hors de la zone de décombres, [...] la meilleure solution [étant] de placer les puits de sortie des voies d'évacuation en dehors de la zone admise, H/2, de décombres". On désigne comme zone de décombres "la surface en plan à l'intérieur de laquelle il faut compter avec un amoncellement considérable de décombres en cas de destruction du bâtiment". Cette zone est définie "de telle façon qu'elle s'étend sur tous les côtés du bâtiment jusqu'à la distance H/2 des façades; H représente la hauteur moyenne de la façade à la corniche". L'art. 2.73 ITAP prévoit également que "les voies d'évacuation doivent autant que possible aboutir en dehors de la zone H/2 de décombres".
3.2 Il découle de ce qui précède que les instructions techniques en cause laissent une certaine marge d'appréciation aux autorités compétentes, puisque l'art. 2.72 ITAP prévoit que les voies d'évacuation et sorties de secours doivent être situées "si possible hors de la zone de décombres", l'art. 2.73 ITAP précisant qu'elle doivent aboutir "autant que possible" en dehors de cette zone. Il n'est donc pas impératif que la sortie de secours de l'abri soit située hors de la zone de décombres telle qu'elle est définie à l'art. 2.72 ITAP. Le Tribunal cantonal a considéré que le service concerné, qui dispose de connaissances techniques en la matière, avait correctement apprécié la situation en estimant que la voie d'évacuation pouvait être autorisée dans la zone de décombres. Il avait en effet tenu compte de l'ensemble des circonstances, soit notamment de la hauteur de l'immeuble existant sur la parcelle n° 3623, du fait que sa voie d'évacuation aboutit sur la parcelle n° 4117, de l'architecture particulière des immeubles concernés et de la multitude de niveaux différents du terrain, principalement le long de la façade ouest de l'immeuble projeté, à savoir du côté de la sortie de secours litigieuse. Les recourants ne remettent pas en cause cette appréciation de façon convaincante. Ils prétendent en effet de manière infondée que la dérogation a été octroyée "sans motif" et qu'elle procède d'un abus du pouvoir d'appréciation; ils affirment en outre, sans aucunement le démontrer, que leur abri de protection civile deviendrait totalement inopérant en cas de catastrophe. Ces simples allégations ne sauraient suffire pour contredire l'avis émis par un service spécialisé, qui disposait de toutes les informations nécessaires pour se prononcer en connaissance de cause. Il n'y a donc pas de motif de s'écarter de ce préavis, qui a été rendu dans le cadre des art. 2.71 ss ITAP. Le grief tiré d'une violation de ces dispositions doit donc lui aussi être rejeté.
4. Les recourants se plaignent encore d'une violation du droit cantonal, en soutenant que l'autorité compétente pour accorder une dérogation devait se déterminer en fonction des normes régissant la dispense de construire un abri.
4.1 Contrairement à ce que semblent soutenir les recourants, le fait que les normes cantonales en question soient "émises en application de la législation fédérale" ne change rien au pouvoir d'examen du Tribunal fédéral, qui examine l'application du droit cantonal sous l'angle de l'arbitraire. Appelé à revoir l'interprétation d'une norme sous cet angle, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - éventuellement plus judicieuse - paraît possible (<ref-ruling> consid. 2.2.2 p. 318 s.; <ref-ruling> consid. 4.1 p. 133; <ref-ruling> consid. 5.1 p. 260 s. et les arrêts cités).
4.2 En l'espèce, les recourants fondent leur argumentation sur une prémisse selon laquelle la décision contestée équivaudrait à une dispense de construire un abri, puisque l'abri de l'immeuble sis sur la parcelle n° 3623 deviendrait "totalement inutile", respectivement "totalement inefficace et donc inutilisable", dès lors que sa sortie de secours déboucherait dans la zone de décombres de l'immeuble autorisé. Une telle dispense exigerait une décision formelle du département cantonal compétent et ne pourrait pas se fonder uniquement sur l'avis du Service cantonal de la sécurité civile et militaire. Il n'y a cependant pas lieu d'examiner cette question plus avant, dès lors qu'il n'est aucunement démontré que le projet litigieux rendrait l'abri en question inutilisable au point qu'on puisse assimiler la décision litigieuse à une dispense de construire un abri. Il n'est en tout cas pas arbitraire de considérer que tel n'est pas le cas, dès lors que le service spécialisé précité a dûment pris en compte la problématique de la distance entre l'immeuble autorisé et la sortie de secours litigieuse. C'est donc sans arbitraire que le Tribunal cantonal s'est fondé sur le préavis du service en question pour confirmer l'autorisation de construire contestée par les recourants.
5. Enfin, les recourants se plaignent de manière générale d'arbitraire, au motif que l'arrêt attaqué se fonde sur l'avis d'un bureau d'architectes mandaté par l'intimée, ainsi que sur des précisions données le 13 décembre 2010 par le Service cantonal de la sécurité civile et militaire et qui ne seraient "en rien convaincantes". Certes, la mention de l'avis du bureau d'architectes en question n'apparaît pas particulièrement pertinente, même si le fait qu'il s'agit d'un bureau mandaté par le maître de l'ouvrage n'enlève pas nécessairement tout crédit à cet avis. Quoi qu'il en soit, cet élément ne constitue pas le fondement de la décision attaquée, qui repose essentiellement sur l'avis du service précité. Quant aux précisions apportées par ce service le 13 décembre 2010, elles apparaissent convaincantes puisqu'elles exposent les motifs ayant conduit à émettre un préavis positif malgré la situation de la sortie de secours litigieuse en zone de décombres (cf. supra consid. 3.2). Le passage de ce courrier du 13 décembre 2010 cité par les recourants n'apporte pas un éclairage différent sur ce point et ne devait pas nécessairement être cité dans l'arrêt querellé. En définitive, ces passages contestés de l'arrêt attaqué ne sont pas entachés d'arbitraire au sens de la jurisprudence susmentionnée.
6. Il s'ensuit que le recours doit être rejeté. Les recourants, qui succombent, doivent supporter les frais de la présente procédure (<ref-law>). Il n'y a pas lieu d'allouer des dépens à l'intimée, qui agit sans avocat, ni à la commune, qui n'y a pas droit (art. 68 al. 1 et 3 LTF; <ref-ruling> consid. 7 p. 119).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants.
3. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué aux mandataires des recourants et de la Commune de Peseux, à l'intimée, au Conseil d'Etat et au Tribunal cantonal du canton de Neuchâtel, ainsi et à l'Office fédéral du développement territorial.
Lausanne, le 8 novembre 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
Le Greffier: Rittener