Faits:
A. Le 24 janvier 1996, X._ et Y._, en tant que maîtres de l'ouvrage, ont conclu un contrat d'entreprise avec Z._ SA, en tant qu'entrepreneur général, portant sur la construction de huit villas-terrasse en propriété par étage, pour le prix forfaitaire de 4'700'000 fr., à verser selon un plan de paiement préétabli.
Les relations entre parties ont rapidement pris un tour conflictuel. Au mois de décembre 1996, l'entrepreneur général a pris la décision de se retirer du chantier et a annoncé aux maître de l'ouvrage la venue, le 9 décembre 1996, d'un expert-architecte mandaté pour établir un rapport des travaux exécutés en vue de la réception de l'ouvrage. Bien qu'ayant signalé qu'ils ne participeraient pas à la rencontre agendée au 9 décembre 1996, les maîtres de l'ouvrage ont pris possession de la construction en l'état où elle se trouvait alors et ont confié la direction des travaux d'achèvement de l'ouvrage à une autre entreprise.
B. Le 9 mars 1999, Z._ SA a ouvert une action tendant au paiement par X._ et Y._ du montant de 987'175 fr. 05 avec intérêt. Le 30 juillet 1999, X._ et Y._ ont conclu au rejet de la demande et, reconventionnellement, à la condamnation de leur adverse partie à leur payer la somme de 1'155'830 fr. avec intérêt.
Par jugement du 25 septembre 2006, la Ire Cour civile du Tribunal cantonal neuchâtelois a condamné X._ et Y._ à verser solidairement à Z._ SA le montant de 938'009 fr. 55 avec intérêt à 5 % l'an dès le 1er mai 1999. En substance, elle a considéré que dans une annexe au contrat intitulée "budget des équipements et finitions aux frais des acquéreurs" signée le 19 février 1996, les parties avaient prévu que "les plus-values seront facturées au maître de l'ouvrage et versées à Z._ SA avant envoi de la commande aux fournisseurs"; or, X._ et Y._ ne s'étaient pas acquittés du paiement des acomptes et plus-values selon leurs engagements contractuels; par ailleurs, certains travaux de finitions dans certaines unités d'étage n'avaient pas pu être terminés, étant donné que Z._ SA n'avait pas reçu du maître de l'ouvrage ou des acquéreurs le choix de ces finitions; dans plusieurs lettres, Z._ SA avait fixé une série de délais pour le choix des équipements, qui n'avaient manifestement pas été respectés par les maîtres de l'ouvrage; il ressortait d'une lettre du 29 octobre 1996 que Z._ SA avait mis X._ et Y._ en demeure de verser jusqu'au 31 octobre 1996 un montant de 131'566 fr. correspondant aux plus-values; les maîtres de l'ouvrage ne s'étaient pas exécutés; c'était donc ces derniers qui se trouvaient en demeure et Z._ SA était en droit de se départir du contrat; X._ et Y._ pensaient donc à tort que par suite de son retrait du chantier intervenu le 9 décembre 1996, Z._ SA répondait du dommage correspondant à la différence entre le coût effectif de la construction et le prix forfaitaire selon contrat, révisé en fonction des plus ou moins-values; se fondant sur le tableau n° 1 établi par l'expert, auquel elle a apporté divers correctifs, la cour cantonale a considéré que le montant dû en définitive par X._ et Y._ à Z._ SA était de 4'938'277 fr. 50 (montant forfaitaire révisé de l'ouvrage), dont à déduire 710'585 fr. (coût des travaux pour terminer l'ouvrage et réparer les défauts), 3'354'234 fr. 70 (acomptes versés), 46'864 fr. 25 (réclamations justifiées relatives aux unités d'étages), 47'837 fr. 80 (intérêts intercalaires) et 30'696 fr. 20 (frais judiciaires et conseil juridique), soit un solde de 748'009 fr. 55; il convenait d'ajouter à ce montant le remboursement des acomptes payés selon les promesses de vente, soit 190'000 fr.; le montant total dû par X._ et Y._ à Z._ SA était dès lors de 938'009 fr. 55.
Statuant par arrêts du 19 décembre 2007 sur le recours de droit public et le recours en réforme interjetés par X._ et Y._, la Cour de céans a partiellement admis le premier dans la mesure de sa recevabilité et annulé le jugement du 25 septembre 2006, puis prononcé que le second était sans objet (arrêts 4P.287/2006 et 4C.391/2006). En bref, elle a considéré que le jugement susmentionné ne résistait pas à deux griefs d'arbitraire; d'une part, la cour cantonale n'avait pas expliqué pourquoi elle n'avait pas inclus dans le décompte un montant de 794'948 fr. 55 correspondant aux travaux des maîtres d'état payés directement par X._ et Y._; d'autre part, elle n'avait pas discuté la question du fondement d'une créance de 100'000 fr. que ceux-ci prétendaient détenir à l'encontre de Z._ SA du chef d'une cession de créance intervenue avec A._.
Par nouveau jugement du 28 octobre 2009, la Ire Cour civile du Tribunal cantonal neuchâtelois a condamné X._ et Y._ à verser solidairement à Z._ SA le montant de 322'592 fr. 10 avec intérêt à 5 % l'an dès le 1er mai 1999. S'agissant du premier point ayant fait l'objet du renvoi, elle a admis l'existence de montants versés directement par X._ et Y._ aux corps de métier auxquels Z._ SA avait sous-traité des travaux et cédé sa créance en paiement desdits travaux une fois qu'elle s'était retirée du contrat; il ressortait de la liste établie par l'expert que X._ et Y._ avaient payé à ce titre un total de 744'351 fr. 25, mais certains versements excédaient, parfois de beaucoup, les factures émises par les entreprises concernées, sans que l'on sache si d'autres travaux étaient censés être couverts par les versements excédentaires; si le paiement de montants inférieurs à la facture pouvait s'expliquer par des ristournes qui auraient pu être obtenues, on ne s'expliquait pas la raison de versements portant sur des montants supérieurs à ceux facturés; dans cette optique, les juges cantonaux ont retenu les paiements effectifs, sous déduction des versements excédentaires par rapport à chaque facture, soit un total de 615'417 fr. 45; concernant le second point ayant fait l'objet du renvoi, la cour cantonale a considéré qu'ainsi qu'elle l'avait retenu dans son jugement - définitif et exécutoire - du 17 janvier 2005 rendu dans la cause opposant A._ à X._, Y._ et Z._ SA, il n'avait pas été établi que le montant de 100'000 fr. viré le 10 mars 1996 sur le compte de construction ouvert au nom de X._ et Y._ avait été transféré à A._; celui-ci n'assumait dès lors aucune obligation de restitution; X._ et Y._ n'étant pas titulaires d'une créance envers A._, ils ne disposaient pas non plus d'une créance envers Z._ SA après la cession de celle-ci par A._ de ses droits issus de la promesse de vente liant X._ et Y._ d'une part et A._ d'autre part, cession que dite promesse de vente autorisait; pour le surplus, la cour cantonale a repris la teneur de son premier jugement; en définitive, compte tenu du poste susmentionné nouvellement pris en compte de 615'417 fr. 45, le montant désormais retenu pour l'achèvement de l'ouvrage et la réparation des défauts était de 1'326'002 fr. 45, d'où la réduction du montant dû par X._ et Y._ à Z._ SA de 938'009 fr. 55 à 322'592 fr. 10.
C. X._ et Y._ (les recourants) ont derechef interjeté un recours en matière civile au Tribunal fédéral, concluant principalement à la réforme du jugement du 28 octobre 2009 dans le sens du rejet des conclusions de leur adverse partie et de la condamnation de celle-ci à leur payer la somme de 263'927 fr. 30 avec intérêt à 5 % l'an dès le 1er octobre 1998, subsidiairement au renvoi de la cause à la cour cantonale pour nouvelle décision; Z._ SA (l'intimée) a proposé le rejet du recours; les recourants ont déposé une réplique.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (ATF 135 III 329 consid. 1).
1.1 Interjeté par les recourants qui ont succombé dans leurs conclusions (art. 76 al. 1 LTF) et dirigé contre une décision finale (art. 90 LTF) rendue en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance (art. 75 al. 1 LTF) dans une affaire dont la valeur litigieuse dépasse le seuil de 30'000 fr (art. 74 al. 1 let. b LTF), le recours présentement soumis à l'examen du Tribunal fédéral est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), y compris les droits constitutionnels (ATF 134 III 379 consid. 1.2 p. 382). Saisi d'un tel recours, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), dont il ne peut s'écarter que s'ils l'ont été de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 135 III 397 consid. 1.5) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
1.3 Un arrêt de renvoi du Tribunal fédéral lie tant l'autorité cantonale à laquelle la cause est renvoyée que le Tribunal fédéral ultérieurement saisi d'un recours contre la nouvelle décision de l'autorité cantonale (cf. ATF 135 III 334 consid. 2). En l'occurrence, il en résulte que des points qui auraient pu ou ont effectivement été soulevés dans le recours de droit public tranché par arrêt de la Cour de céans du 19 décembre 2007, seuls les deux qui ont fait l'objet du renvoi et ont été jugés à nouveau par la cour cantonale pouvaient encore être critiqués dans le cadre de la présente procédure, à l'exclusion de tout autre, sous peine d'irrecevabilité. Par contre, comme le recours en réforme interjeté parallèlement a été déclaré sans objet compte tenu de l'admission du recours de droit public, et que les griefs qui y étaient formulés n'ont par conséquent jamais été examinés, les recourants étaient fondés à les soulever à nouveau dans le recours en matière civile présentement soumis à l'examen du Tribunal fédéral.
2. Invoquant les art. 91 ss et 107 ss CO, les recourants se plaignent d'une violation des règles sur la demeure; en bref, ils reprochent à la cour cantonale d'avoir admis que l'intimée était en droit de se départir du contrat.
2.1 A titre préliminaire, il y a lieu d'observer que l'argumentation des recourants repose dans une large mesure sur des faits qui ne ressortent pas de l'état de fait déterminant; il en va en particulier ainsi lorsqu'ils soutiennent que leur demeure, respectivement la possibilité de résoudre le contrat, serait exclue, en se fondant sur certaines clauses - selon eux à tout le moins partiellement contradictoires, voire "en diamétrale dérogation" au système légal de l'art. 372 CO - du contrat qui n'ont pas été retenues par la cour cantonale; or, dans leur précédent recours de droit public, les recourants avaient seulement soulevé, en rapport avec la problématique de la demeure, des critiques relatives à une prétendue violation de leur droit d'être entendus - lesquelles avaient été écartées par la Cour de céans -, à l'exclusion de griefs d'arbitraire dans l'appréciation des preuves et l'établissement des faits; ils ne peuvent dès lors plus le faire dans le présent recours et il convient donc de statuer à la lumière des seuls faits établis.
2.2 En vertu de l'art. 107 CO, l'entrepreneur peut résilier le contrat - avec effet "ex nunc" lorsque les travaux ont déjà commencé - si le maître n'exécute pas ses obligations principales en temps voulu, notamment s'il ne paie pas le prix de l'ouvrage ou des acomptes après avoir été mis en demeure de le faire (arrêt 4C.196/1988 du 6 décembre 1988 consid. 2, reproduit in SJ 1989 p. 331; plus récemment, cf. également Tercier/Favre/Carron, in Les contrats spéciaux, 4e éd. 2009, n° 4764 p. 714; Gauch/Carron, Le contrat d'entreprise, 1999, n° 1274 s. p. 367 s.).
Par ailleurs, conformément aux art. 91 et 96 CO réglant la demeure du créancier, l'entrepreneur a également le droit de résilier le contrat si le maître viole son devoir de collaboration, par exemple s'il n'accomplit pas les actes préparatoires qui lui incombent (arrêt 4C.196/1988 du 6 décembre 1988 consid. 2, reproduit in SJ 1989 p. 331; plus récemment, cf. également RAMONI, Demeure du débiteur et contrats de droit suisse, 2002, n° 494 p. 240).
2.3 Le droit de résolution du contrat est soumis aux art. 107-109 CO (ATF 46 II 248 consid. 2; plus récemment, cf. également Chaix, in Commentaire romand, n° 12 ad art. 372 CO, p. 1946; Engel, Contrats de droit suisse, 2e éd. 2000, p. 464). Ainsi, en principe, il incombe à l'entrepreneur de fixer au maître de l'ouvrage un délai convenable pour s'exécuter (art. 107 al. 1 CO; pour ce qui est de la demeure du créancier, cf., mutatis mutandis, ATF 110 II 148 consid. 1b p. 152; 46 II 248 consid. 2).
La question de savoir si le délai imparti au débiteur est convenable ne se tranche pas de manière générale; sa solution dépend au contraire des circonstances particulières de l'espèce, notamment de la nature de la prestation et de l'intérêt du créancier à une prompte exécution. Le délai sera d'autant plus court que l'intérêt du créancier est grand et la prestation facile à fournir (ATF 105 II 28 consid. 3a; 103 II 102 consid. 1b p. 106). Pour ce qui est plus spécifiquement du contrat d'entreprise, la durée du délai convenable devrait en principe être courte car la prestation du maître est facile à fournir, mais elle doit tenir compte de l'importance des montants à payer, ainsi que des conséquences graves que peut avoir une interruption des travaux par l'entrepreneur (Ramoni, op. cit., n° 498 p. 242).
Lorsque le délai est objectivement trop court, le débiteur n'a pas le droit de l'ignorer purement et simplement. Il doit protester et demander une prolongation à son cocontractant. S'il s'en abstient, il est censé agréer le délai fixé. En outre, la conversion d'un délai trop court en un délai convenable n'a de sens que si le débiteur s'exécute dans le délai jugé convenable ou, en tout cas, s'il offre sérieusement de le faire dans un laps de temps pouvant être considéré comme convenable (ATF 116 II 436 consid. 2a; 105 II 34 consid. 3b p. 34).
2.4 Si l'exécution n'est pas intervenue à l'expiration du délai comminatoire, le droit de la demander et d'actionner en dommages-intérêts pour cause de retard peut toujours être exercé; cependant, le créancier qui en fait la déclaration immédiate peut renoncer à ce droit et réclamer des dommages-intérêts pour cause d'inexécution ou se départir du contrat (art. 107 al. 2 CO).
La déclaration est immédiate lorsqu'elle est faite aussi vite que possible selon la marche ordinaire des affaires et les circonstances particulières de l'espèce (ATF 96 II 47 consid. 2 p. 50). C'est notamment le cas lorsqu'elle intervient dans un laps de temps tel qu'il n'en résulte pas d'inconvénient pour le débiteur (Thévenoz, in Commentaire romand, n° 17 ad art. 107 CO), consistant par exemple dans le fait que le créancier entend profiter du retard pour spéculer au détriment de débiteur (ATF 76 II 300 consid. 2 p. 305).
Le créancier doit déclarer sans délai qu'il renonce à l'exécution en nature uniquement s'il a le choix entre les diverses voies ouvertes par l'art. 107 al. 2 CO. Si les circonstances sont telles qu'il reste un seul parti à prendre, et que la décision du créancier soit ainsi sans portée pratique, on ne peut reprocher à celui-ci de n'avoir pas fait connaître immédiatement son choix. Tel est en particulier le cas lorsque le débiteur a annoncé de façon précise qu'il n'exécuterait pas. Dès lors, il ne peut plus soutenir que le créancier, faute d'avoir fait connaître aussitôt sa décision, en est réduit à demander une exécution qu'il n'obtiendra pas. Une attitude aussi contradictoire autorise le créancier à repousser comme heurtant la bonne foi l'exception de tardiveté qu'on lui oppose (ATF 76 II 300 consid. 2 p. 304 s.).
Bien que cela ne soit pas nécessaire, il est parfaitement loisible au créancier d'annoncer au débiteur, au stade de la fixation du délai, quel parti il prendra si l'exécution n'a pas lieu (ATF 116 II 436 consid. 3).
La déclaration de volonté du créancier qui choisit une des options offertes par l'art. 107 al. 2 CO doit être interprétée selon le principe de la confiance (ATF 123 III 16 consid. 4b), étant précisé que l'on ne doit surtout pas exiger d'un non-juriste une trop grande rigueur dans l'emploi des termes (ATF 76 II 300 consid. 3).
2.5 En l'espèce, il ressort de l'état de fait déterminant que l'annexe au contrat signée par les parties le 19 février 1996 prévoyait que les plus-values seraient facturées au maître de l'ouvrage et versées à l'entrepreneur avant envoi de la commande aux fournisseurs. En dépit de leurs obligations contractuelles, les recourants ne se sont pas acquittés du paiement des acomptes et plus-values, ni opéré le choix de certaines finitions. Par lettres des 22 février, 30 avril, 6 mai et 25 juin 1996, l'intimée a fixé une série de délais pour le choix des équipements qui n'avaient manifestement pas été respectés par le maître de l'ouvrage. Par lettre du 29 octobre 1996, l'intimée a mis les recourants en demeure de lui verser jusqu'au 31 octobre 1996 un montant de 131'566 fr. correspondant aux plus-values. Les recourants n'y ont pas donné suite. Le 2 décembre 1996, l'intimée a signifié aux recourants qu'elle entendait se retirer du chantier avec effet au 9 décembre 1996. Bien que ne se présentant pas à la rencontre fixée ce jour-là, les recourants ont pris possession de la construction en l'état où elle se trouvait alors.
2.6 Les recourants plaident que le délai fixé le 29 octobre 1996 pour le 31 octobre 1996 ne serait pas convenable au sens de l'art. 107 al. 1 CO. S'il est vrai qu'un délai de deux jours est court dans l'absolu, il ne saurait être considéré comme non convenable compte tenu des circonstances de l'espèce. En effet, l'exécution de la prestation requise, soit le paiement d'une somme d'argent, ne revêtait aucune difficulté particulière - si l'on excepte un éventuel manque de liquidités qui est toutefois juridiquement sans pertinence - et sa demande était au demeurant prévisible, dès lors que le contrat prévoyait que les plus-values seraient facturées au maître de l'ouvrage avant envoi de la commande aux fournisseurs. Il n'apparaît en outre pas que les recourants aient protesté contre le délai qui leur avait été fixé. Devant le Tribunal fédéral, ils prétendent certes avoir contesté, dans un courrier du 4 novembre 1996, les prétentions en plus-values "présentées pour la première fois, sous la forme d'un tableau et de manière chiffrée, mais sans pièces à l'appui, par (l'intimée) dans son courrier du 29 octobre 1996"; ils n'établissent toutefois pas avoir spécifiquement protesté contre la durée du délai fixé. Pour le surplus, il n'a pas non plus été retenu que les recourants se seraient ultérieurement exécutés, alors même qu'ils auraient eu l'occasion de le faire dans le délai d'environ un mois entre le moment de l'échéance du délai comminatoire et celui où l'intimée a déclaré vouloir se retirer du contrat.
Par ailleurs, il sied de rappeler que les précédents juges n'ont pas uniquement retenu la demeure des recourants comme débiteurs, mais également comme créanciers. Or, la cour cantonale a constaté à cet égard, en reprenant à son compte des éléments de fait mis en exergue par l'expert, que l'intimée leur avaient précédemment fixé, à réitérées reprises, des délais successifs pour le choix des équipements, en vain.
2.7 Les recourants soutiennent en outre que l'intimée n'aurait pas fait la déclaration immédiate de l'art. 107 al. 2 CO. L'on ne voit toutefois pas que le fait, pour l'intimée, d'avoir attendu du 31 octobre - date de la dernière mise en demeure - au 2 décembre 1996 pour signifier son intention de se "retirer" du contrat ait occasionné quelque inconvénient pour les recourants, élément qui, comme précédemment exposé, aurait pu faire apparaître la déclaration comme tardive. En outre, dans la mesure où il apparaissait à ce stade que les recourants n'exécuteraient pas le contrat, ceux-ci ne peuvent de bonne foi se plaindre de ce que le créancier aurait tardivement déclaré renoncer à l'exécution. Compte tenu de l'ensemble des circonstances de l'espèce, l'on ne voit donc pas que l'art. 107 al. 2 CO ait été violé.
2.8 En définitive, la demeure des recourants et, partant, le droit de l'intimée de se départir du contrat doivent être confirmés; cela scelle le sort des arguments et prétentions des recourants fondés sur la violation, plus précisément la rupture fautive du contrat par leur adverse partie, sur lesquels il n'y a dès lors pas à se pencher, étant de surcroît relevé que la majeure partie de leur développements y relatifs avaient déjà été présentés et rejetés dans le cadre de la procédure de recours de droit public.
3. Les recourants font grief à la cour cantonale d'avoir violé l'art. 8 CC concernant le fardeau de la preuve; pour l'essentiel, ils exposent que le jugement entrepris ne s'attacherait pas à répondre à leurs arguments concernant l'absence de décomptes détaillés relatifs aux plus-values, ni ne trancherait le moyen tiré de délais prétendument inappropriés pour le choix des matériaux. Force est de constater que sous couvert de l'invocation de la disposition susmentionnée, ils articulent en réalité un grief de violation de leur droit d'être entendus; plus loin dans leur écriture, ils soutiennent d'ailleurs expressément que le procédé des juges cantonaux serait également constitutif d'une telle violation. Or, semblable grief avait déjà été soulevé et rejeté dans le cadre de la procédure de recours de droit public, d'où son irrecevabilité dans la présente procédure. Pour le surplus, les recourants affirment encore qu'il s'agirait en outre d'une violation du droit cantonal, spécifiquement du droit de procédure, au sujet de la preuve; cette critique est en tout état irrecevable, faute de motivation suffisante (art. 106 al. 2 LTF).
4. Les recourants s'en prennent au poste "coût pour la terminaison de l'ouvrage" tel qu'il a été calculé à nouveau par la cour cantonale dans son jugement après renvoi; ils se limitent toutefois pour ainsi dire à présenter leur propre vision de la situation et à affirmer que la cour cantonale aurait dû leur allouer la somme de 744'351 fr. 25 au lieu des 615'417 fr. 45 correspondant aux factures des différents maîtres d'état, sans réellement discuter les motifs de la décision entreprise, ni démontrer en quoi les juges cantonaux auraient fait une appréciation arbitraire des preuves; un tel procédé est irrecevable.
5. Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité.
6. Compte tenu de l'issue du litige, les frais judiciaires et dépens de l'intimée seront mis solidairement à la charge des recourants, qui succombent (art. 66 al. 1 et 5 ainsi qu'art. 68 al. 1, 2 et 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est irrecevable.
2. Les frais judiciaires, arrêtés à 8'500 fr., sont mis solidairement à la charge des recourants.
3. Une indemnité de 9'500 fr., à payer à l'intimée à titre de dépens, est mise solidairement à la charge des recourants.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Ire Cour civile du Tribunal cantonal neuchâtelois.
Lausanne, le 9 juin 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz