Faits:
A. Le 16 février 1999, X._ et Y._ (ci-après: les locataires) ont pris à bail des locaux d'environ 180 mètres carrés et une surface commune calculée au prorata d'environ 16 mètres carrés, propriétés de A._ SA. Le loyer annuel était fixé à 26'496 fr. Le bail était conclu pour une période initiale allant jusqu'au 29 février 2000, soit un an et quelques jours; il était ensuite renouvelable tacitement d'année en année, avec un préavis de résiliation de six mois. Les locaux étaient destinés à l'exploitation de salles de cours, de consultation internet et de bureaux. Ils ont été occupés par « B._ », association sans but lucratif qui dispense des cours visant à réinsérer des personnes au chômage.
Le 31 mai 2000, A._ SA a résilié le bail pour le 28 février 2001, au motif que les locataires avaient rénové les locaux sans autorisation et occupaient sans droit une surface de 28 mètres carrés sise dans l'immeuble et précédemment loué par un tiers. Les locataires ont contesté la résiliation.
En 2002, Z._ SA, société active dans la production, distribution, fabrication et commercialisation d'horlogerie, qui louait également des locaux dans l'immeuble litigieux, a acquis la totalité des actions de A._ SA. Elle a informé les locataires de l'acquisition et de son intention de disposer à terme de l'ensemble de l'immeuble pour exercer son activité. Elle leur a proposé la somme de 250'000 fr. pour qu'ils quittent les locaux, offre qui a été refusée. Entre juillet et octobre 2003, elle a débuté la transformation de l'immeuble en une usine horlogère pour un coût d'environ 8'000'000 francs.
Par jugement du 5 novembre 2003, le Tribunal des baux et loyers du canton de Genève a annulé le congé donné par A._ SA aux locataires le 31 mai 2000. Il a retenu que le bail ne permettait pas aux locataires d'occuper la surface litigieuse de 28 mètres carrés, mais que le congé donné pour ce motif était, au vu des circonstances, contraire aux règles de la bonne foi.
Le 25 mars 2004, A._ SA et les locataires ont conclu un accord devant la Commision de conciliation du canton de Genève, aux termes duquel les toilettes et le réduit sis à côté des locaux de ces derniers faisaient partie intégrante des locaux loués.
Le 22 avril 2004, Z._ SA a fusionné avec A._ SA, dont elle a repris l'actif et le passif. Le 6 juillet 2004, elle a été inscrite au registre foncier comme propriétaire de l'immeuble litigieux.
Par avis de résiliation du 28 juillet 2004, Z._ SA (ci-après: la bailleresse) a résilié le bail des locataires pour le 28 février 2005, au motif qu'à cause du développement important de ses activités, elle avait besoin d'occuper rapidement la totalité des surfaces commerciales de l'immeuble. Selon la bailleresse, la libération des locaux loués par les locataires devait permettre la création d'ateliers d'horlogers pour trente nouveaux employés et la pose d'un ascenseur. Elle alléguait notamment ne plus parvenir à satisfaire les commandes des clients, qui se tournaient vers la concurrence.
B. Saisie par les locataires, la Commission de conciliation en matière de baux et loyers, par décision du 18 mai 2005, a déclaré le congé valable et accordé une unique prolongation du bail jusqu'au 31 août 2006.
Les locataires et la bailleresse ont saisi le Tribunal des baux et loyers, les premiers concluant à ce que le congé soit annulé, subsidiairement à ce qu'une première prolongation de bail de six ans leur soit accordée. Par jugement du 24 mai 2007, le Tribunal a déclaré le congé valable, pris acte de ce que la bailleresse avait accepté une unique prolongation du bail au 31 août 2006 et débouté les parties de toutes autres conclusions.
Les locataires ont appelé de ce jugement, concluant principalement à l'annulation du congé, subsidiairement à l'octroi d'une première prolongation de bail de six ans. Par arrêt du 14 janvier 2008, la Chambre d'appel en matière de baux et loyers du canton de Genève a partiellement admis l'appel des locataires et leur a accordé une unique prolongation de bail, valant première et seconde prolongation, au 29 février 2008.
C. Les locataires (les recourants) interjettent un recours en matière civile au Tribunal fédéral. Ils concluent à l'annulation du congé, subsidiairement à l'octroi d'une pleine prolongation de bail jusqu'au 29 février 2011, avec suite de dépens. La bailleresse (l'intimée) propose le rejet du recours, sous suite de dépens.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 2).
1.1 Les contestations portant sur l'usage d'une chose louée sont de nature pécuniaire (arrêt 4C.155/2000 du 30 août 2000, publié in SJ 2001 I p. 17, consid. 1a), de sorte qu'elles ne peuvent être soumises au Tribunal fédéral, par la voie du recours en matière civile, que si elles atteignent la valeur litigieuse prescrite par la loi. En matière de droit du bail à loyer, elle doit s'élever à au moins 15'000 fr. (<ref-law>). C'est le montant encore litigieux devant la dernière instance cantonale qui la détermine (<ref-law>).
En cas de litige portant sur la résiliation d'un bail, la valeur litigieuse se détermine selon le loyer dû pour la période durant laquelle le contrat subsiste nécessairement, en supposant que l'on admette la contestation, et qui s'étend jusqu'au moment pour lequel un nouveau congé aurait pu être donné ou l'a été effectivement (cf. 119 II 147 consid. 1 p. 149; <ref-ruling> consid. 1 p. 386; plus récemment, cf. également arrêt 4C.155/2000 du 30 août 2000, publié in SJ 2001 I p. 17, consid. 1a; 4C.310/1996 du 16 avril 1997, publié in SJ 1997 p. 493, consid. 2a). Pour déterminer la prochaine échéance possible, il faut donc supposer que l'on admette la contestation, c'est-à-dire que le congé litigieux ne soit pas valable. Lorsque, comme en l'espèce (cf. <ref-law>), le bail bénéficie de la protection contre les congés des <ref-law>, il convient, sauf exceptions, de prendre en considération la période de trois ans prévue à l'art. 271a al. 1 let. e CO (cf. arrêt 4C.155/2000 du 30 août 2000, publié in SJ 2001 I p. 17, consid. 1a; 4C.310/1996 du 16 avril 1997, publié in SJ 1997 p. 493, consid. 2a).
Le loyer annuel étant en l'espèce de 26'496 fr., la valeur limite de 15'000 fr. est clairement atteinte.
1.2 Par ailleurs exercé par les recourants qui ont succombé dans leurs conclusions (<ref-law>) et dirigé contre une décision finale (<ref-law>) rendue en matière civile (<ref-law>) par une autorité cantonale de dernière instance (<ref-law>), le recours en matière civile soumis à l'examen du Tribunal fédéral est en principe recevable, puisqu'il a été déposé dans le délai (art. 45 al. 1 et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi.
1.3 Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), que le recourant ne peut critiquer que s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.3) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), ce qu'il lui appartient d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice doit en outre être susceptible d'influer sur le sort de la cause (<ref-law>).
En l'occurrence, les considérations d'ordre factuel contenues dans le mémoire de recours ne répondent pas à ces exigences.
2. Les recourants allèguent que dans son jugement du 5 novembre 2003 rendu dans la cause les opposant à A._ SA, le Tribunal des baux et loyers a jugé que celle-ci n'avait pas de réel besoin de l'espace de 28 mètres carrés qu'ils avaient occupé, que cette question ayant fait l'objet d'un jugement en force, elle ne saurait être remise en question et que si cet espace n'était pas indispensable, il ne saurait en aucun cas être retenu qu'un espace plus grand le serait. Ils soutiennent que dans la présente procédure, l'intimée tente de remettre en cause ce jugement qui n'a pas fait l'objet d'un appel.
L'arrêt attaqué ne constate pas qu'il a été jugé, le 5 novembre 2003, que A._ ou l'intimée n'avaient pas besoin de la surface en question. A la lecture dudit jugement, produit le 20 juin 2005 par les recourants, il appert que le Tribunal des baux et loyers a simplement constaté que la surface en question n'était pas nécessaire pour relier les divers locaux loués à l'époque par l'intimée si un escalier envisagé était construit. Ce besoin spécifique n'a rien à voir avec celui faisant l'objet du présent litige. Au demeurant, les besoins peuvent évoluer et ne sauraient donc être considérés comme tranchés une fois pour toutes. En outre, le fait que l'on n'ait pas besoin d'une petite surface déterminée ne signifie pas nécessairement que l'on ne puisse pas avoir besoin d'une autre surface, le cas échéant plus vaste. Le grief est dénué de fondement.
3. Les recourants se plaignent d'une violation de l'<ref-law>. Ils soutiennent que la résiliation, intervenue neuf mois après l'annulation judiciaire du premier congé donné par A._ SA, est annulable, l'intimée n'ayant pas un besoin urgent des locaux pour elle-même mais n'étant qu'à la recherche du plus haut niveau de confort possible.
3.1 Un congé donné par le bailleur dans les trois ans à compter de la fin d'une procédure judiciaire au sujet du bail est annulable si le bailleur y a succombé dans une large mesure (art. 271a al. 1 let. e ch. 1 CO). Cette règle ne s'applique toutefois pas si le congé est donné en raison du besoin urgent que le bailleur ou ses proches parents ou alliés peuvent avoir d'utiliser eux-mêmes les locaux (<ref-law>).
Le besoin urgent ne présuppose pas une situation de contrainte, voire un état de nécessité; il suffit que, pour des motifs économiques ou pour d'autres raisons, on ne puisse exiger du bailleur qu'il renonce à l'usage de l'objet loué. Le besoin dont il s'agit doit être sérieux, concret et actuel; il l'emporte alors sur l'intérêt du locataire. Quant à l'urgence, elle doit être examinée non seulement dans le temps, mais encore en fonction de son degré (<ref-ruling> consid. 3c et d). Le juge en décidera après avoir apprécié toutes les circonstances du cas particulier. S'agissant d'une décision faisant appel au pouvoir d'appréciation du juge, le Tribunal fédéral ne substituera qu'avec retenue sa propre appréciation à celle de la juridiction cantonale. Il n'interviendra que si la décision s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation ou si elle repose sur des faits qui, en l'occurrence, ne jouaient aucun rôle, ou encore si elle n'a pas tenu compte d'éléments qui auraient absolument dû être pris en considération (<ref-ruling> consid. 4 p. 55).
Le bailleur assume le fardeau de la preuve. C'est à lui qu'il appartient d'établir l'existence d'un besoin urgent (arrêt 4A_17/2006 du 27 mars 2006, traduit in Mietrechtspraxis [mp] 2006 p. 212, consid. 3.1 p. 214, et les références citées).
3.2 En l'espèce, la cour cantonale a admis un besoin urgent de l'intimée à occuper l'entier du bâtiment qu'elle a acquis. Elle a en particulier relevé que celle-ci n'arrivait plus à produire suffisamment pour honorer les commandes en progression, que l'utilisation de toutes les surfaces de l'immeuble permettrait d'augmenter le nombre de postes de travail et la production, que l'intimée avait entrepris une importante transformation du bâtiment afin d'y faire fonctionner une usine horlogère et que la plupart des travaux étaient terminés.
3.3 Les recourants reprochent aux juges cantonaux de s'être satisfaits d'une simple vraisemblance quant à la possibilité pour l'intimée d'augmenter sa production en disposant de la totalité des surfaces de son immeuble, sans exiger qu'elle prouve l'impossibilité d'augmenter sa productivité sans utiliser les espaces loués. Devant la cour cantonale, ils avaient en particulier soutenu que l'intimée n'arrivait pas à satisfaire les commandes en partie parce qu'elle était confrontée à une pénurie de main-d'oeuvre qualifiée. Les juges cantonaux, considérant que cela était possible, a ajouté qu'il n'en demeurait « pas moins qu'en disposant de la totalité des surfaces de son immeuble, elle parviendra, selon toute vraisemblance, à augmenter ses forces de production ». Or, il n'est pas contestable que l'utilisation de tout le bâtiment permettrait de créer des postes de travail supplémentaires et donc d'augmenter la production. La réserve faite par la cour cantonale, qui tient de la clause de style, fait référence aux difficultés à recruter des ouvriers qualifiés, mais il ne fait raisonnablement pas de doute que l'intimée parviendrait à plus ou moins brève échéance à résoudre ce problème au demeurant commun à beaucoup d'entreprises. Quoi qu'il en soit, le besoin de l'intimée à pouvoir disposer de plus de surface pour être en mesure de créer des postes de travail supplémentaires n'est pas contestable, et l'on ne saurait aller jusqu'à attendre qu'elle ait trouvé et engagé le personnel supplémentaire avant de la laisser disposer des locaux nécessaires pour permettre à ce personnel de travailler.
Les recourants objectent par ailleurs que l'intimée a aménagé un espace destiné à recevoir clients et partenaires, qui est peu utilisé. Pour une entreprise active dans l'horlogerie haut de gamme, il est cependant manifestement adéquat, voire nécessaire, de disposer de locaux pour recevoir ses clients de manière appropriée.
Les recourants soutiennent également que l'intimée a délibérément abandonné des locaux sis à proximité où elle aurait provisoirement pu installer des espaces artisanaux ou administratifs. Ne serait-ce qu'à cause des frais supplémentaires et des inconvénients que cela occasionnerait, l'on ne saurait toutefois exiger de l'intimée qu'elle installe ses ateliers d'abord hors de son immeuble avant de les y transférer plus tard. Les recourants se méprennent sur la notion de besoin urgent; toute solution alternative, peu importe ses désagréments et ses coûts, ne suffit en effet pas à exclure un besoin urgent.
Les recourants se prévalent enfin de l'accord du 25 mars 2004 qui, selon eux, démontre que l'intimée n'a pas de besoin urgent de locaux supplémentaires. Cet accord, selon lequel des toilettes et un réduit étaient réputés faire partie intégrante des locaux loués, ne faisait cependant que préciser l'objet du bail, et l'on ne saurait en déduire quoi que ce soit au sujet du besoin de l'intimée à pouvoir disposer des locaux loués.
En résumé, les objections des recourants ne sont pas pertinentes. Il n'existe pas de motif pour s'écarter de l'appréciation faite par les autorités cantonales. Le recours est ainsi infondé dans la mesure où il conteste la validité du congé.
4. Les recourants se plaignent d'une violation des art. 272 et 272b CO. Pour le cas où le congé ne serait pas annulé, ils estiment avoir droit à une prolongation de bail de six ans, au lieu de celle de trois ans que leur a accordée la cour cantonale.
4.1 Selon l'<ref-law>, le locataire peut demander la prolongation d'un bail lorsque la fin du contrat aurait pour lui ou sa famille des conséquences pénibles sans que les intérêts du bailleur le justifient (al. 1). Dans la pesée des intérêts, l'autorité compétente se fondera notamment sur les circonstances de la conclusion du bail et le contenu du contrat (al. 2 let. a), la durée du bail (al. 2 let. b), la situation personnelle, familiale et financière des parties ainsi que leur comportement (al. 2 let. c), le besoin que le bailleur ou ses proches parents ou alliés peuvent avoir d'utiliser eux-mêmes les locaux ainsi que l'urgence de ce besoin (al. 2 let. d), et la situation sur le marché local du logement et des locaux commerciaux (al. 2 let. e). L'<ref-law> précise que le bail de locaux commerciaux peut être prolongé de six ans au maximum.
Lorsqu'il est appelé à se prononcer sur une prolongation du bail, le juge dispose d'un large pouvoir d'appréciation pour en déterminer la durée dans le cadre posé par la loi. Il doit tenir compte du but de la disposition, qui est de donner du temps au locataire pour trouver une solution de remplacement, et procéder à une pesée des intérêts en présence. Le juge ne transgresse pas le droit fédéral en exerçant le pouvoir d'appréciation que la loi lui accorde. Le droit fédéral n'est violé que s'il sort des limites fixées par la loi, s'il se laisse guider par des considérations étrangères à la disposition applicable, s'il ne prend pas en compte les éléments d'appréciation pertinents ou s'il tire des déductions à ce point injustifiables que l'on doive parler d'un abus de pouvoir d'appréciation (<ref-ruling> consid. 4b).
4.2 En l'occurrence, les recourants invoquent essentiellement les circonstances de la conclusion du bail. Ils allèguent n'avoir accepté de limiter la durée du bail à un an et de signer une clause de renonciation à toute indemnité pour une plus-value consécutive à des travaux de modification ou rénovation uniquement dans la perspective de la conclusion ultérieure d'un bail de plus longue durée portant sur la totalité de l'étage, perspective sur laquelle les deux parties étaient d'accord. Or, ces faits ne ressortent pas de l'arrêt attaqué, de sorte qu'il ne peut pas en être tenu compte.
Les recourants invoquent aussi le fait qu'ils auraient investis plus de 100'000 fr. dans la mise en état des locaux. La cour cantonale n'a pas constaté le montant des investissements réalisés par ceux-ci. Quoi qu'il en soit, dans ce contexte, il faut également tenir compte du fait que les recourants ont bénéficié d'un loyer avantageux durant neuf ans et qu'en 2003, l'intimée leur a offert 250'000 fr. pour qu'ils quittent les lieux, offre que ceux-ci ont refusée. Dans ces circonstances, l'investissement fait par les recourants n'exige pas de prolongation particulière du bail.
Les juges cantonaux ont accordé une prolongation de trois ans, soit la moitié du maximum légal. Ce faisant, elle n'a pas abusé du large pouvoir d'appréciation dont elle dispose en la matière; il peut être renvoyé aux considérants de l'arrêt attaqué. Le recours est également infondé sur la question de la prolongation, d'où son rejet.
5. Compte tenu de l'issue du litige, les frais et dépens sont mis solidairement à la charge des recourants, qui succombent (art. 66 al. 1 et 5 ainsi que 68 al. 1, 4 et 5 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 4'500 fr. sont mis à la charge des recourants, solidairement entre eux.
3. Une indemnité de 5'500 fr., à payer à l'intimée à titre de dépens, est mise à la charge des recourants, solidairement entre eux.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre d'appel en matière de baux et loyers du canton de Genève.
Lausanne, le 12 juin 2008
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
Le Président: La Greffière:
Corboz Cornaz