Faits:
A. Y._ est titulaire d'un certificat fédéral de capacité d'horloger rhabilleur délivré le 3 juillet 2000 par le Centre A._. Il a été engagé le 12 décembre 2000 par X._ SA, avec effet dès le 8 janvier 2001. Une clause de non-concurrence était prévue à l'art. 10 du contrat, dont le chiffre 1er disposait qu'« après la fin du contrat, l'employé n'exercera pas pour son compte personnel / ni pour le compte d'autrui, à titre lucratif ou gratuit, une activité dans le domaine des montres mécaniques à répétition ou dans un domaine équivalent à l'expérience acquise au sein de notre société ».
Le 11 décembre 2003, l'employé a résilié le contrat de travail, avec effet au 29 février 2004. Le 1er mars suivant, il est entré au service de B._ SA, selon contrat du 11 décembre 2003. L'ancien et le nouvel employeur sont des concurrents directs dans le domaine des mouvements horlogers à haute complication, comportant notamment un mécanisme de répétition minute et/ou un échappement à tourbillon.
X._ SA a réclamé le paiement du montant de la clause pénale, chiffrée à 50'000 fr., la prohibition de concurrence ayant, de son point de vue, été violée. L'ex-employé a fait opposition totale au commandement de payer qui lui a été notifié le 13 janvier 2005.
B. Le 2 février 2005, X._ SA a ouvert action en paiement contre Y._ devant la Cour civile du Tribunal cantonal neuchâtelois, en concluant à la condamnation du défendeur à lui payer le montant de 50'000 fr., avec intérêts à 5% l'an dès la notification de la poursuite, soit dès le 13 janvier 2005. Le défendeur a conclu à libération.
Par jugement du 11 août 2008, la IIème Cour civile du Tribunal cantonal a rejeté la demande. En résumé, la cour cantonale a considéré que la prohibition de concurrence visait, de manière claire, l'activité personnelle du travailleur, à son compte ou pour le compte d'autrui. Pour les magistrats cantonaux, la preuve que l'employé ait exercé une activité dans le domaine des montres à répétition minute, dans le semestre couru dès le 1er mars 2004, n'a pas été apportée; ils ont donc jugé que la demande visant cette forme d'activité concurrente était mal fondée. S'agissant des autres activités momentanément prohibées, les juges neuchâtelois se sont livrés à une interprétation objective de la clause de prohibition de concurrence et ont admis que le montage de mouvements à tourbillon « équivalait à l'expérience acquise » dans l'entreprise demanderesse. Ils ont toutefois indiqué que la validité de la clause invoquée ne pouvait pas être reconnue, à défaut d'allégation suffisante en lien avec l'accès par l'ex-employé à des secrets de fabrication.
C. La demanderesse exerce un recours en matière civile contre le jugement du 11 août 2008. Elle requiert que le défendeur soit condamné à lui payer le montant de la peine conventionnelle de 50'000 fr. plus intérêts à 5 % l'an dès le 13 janvier 2005. A titre subsidiaire, la demanderesse requiert le renvoi de la cause au Tribunal cantonal pour nomination d'un expert et nouvelle décision dans le sens des considérants. Le défendeur propose le rejet du recours.
Considérant en droit:
1. Le recours est dirigé contre un jugement final (art. 90 LTF), rendu en matière civile (art. 72 al. 1 LTF) et en dernière instance cantonale (art. 75 al. 1 LTF). Il est formé par une partie qui a pris part à l'instance précédente et succombé dans ses conclusions (art. 76 al. 1 LTF). La valeur litigieuse excède le minimum légal de 15'000 fr. prévu en matière de droit du travail (art. 51 al. 1 let. a et 74 al. 1 let. a LTF). Introduit en temps utile (art. 100 al. 1 LTF) et dans les formes requises (art. 42 al. 1 à 3 LTF), le recours est en principe recevable.
2. Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), y compris les droits constitutionnels (ATF 134 III 379 consid. 1.2 p. 382). Saisi d'un tel recours, le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF) sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), dont il ne peut s'écarter que s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 134 V 53 consid. 4.3 p. 62) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Il n'est lié ni par les moyens invoqués par les parties, ni par l'argumentation juridique retenue par la juridiction cantonale; il peut dès lors admettre le recours pour d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 134 III 102 consid. 1.1 p. 104).
3. Invoquant l'art. 9 Cst., la recourante reproche à la cour cantonale d'avoir procédé à une appréciation arbitraire des preuves et d'avoir fait une interprétation insoutenable de la clause de prohibition de concurrence. Elle dénonce aussi une violation du principe de la confiance.
3.1 En présence d'un litige sur l'interprétation d'une disposition contractuelle, le juge doit tout d'abord s'efforcer de déterminer la commune et réelle intention des parties, sans s'arrêter aux expressions ou dénominations inexactes dont elles ont pu se servir, soit par erreur, soit pour déguiser la nature véritable de la convention (art. 18 al. 1 CO); s'il y parvient, il s'agit d'une constatation de fait qui lie en principe le Tribunal fédéral conformément à l'art. 105 LTF. Si la volonté réelle des parties ne peut pas être établie ou si leurs volontés intimes divergent, le juge doit interpréter les déclarations faites et les comportements selon la théorie de la confiance; il doit donc rechercher comment une déclaration ou une attitude pouvait être comprise de bonne foi en fonction de l'ensemble des circonstances; le principe de la confiance permet ainsi d'imputer à une partie le sens objectif de sa déclaration ou de son comportement, même s'il ne correspond pas à sa volonté intime. L'application du principe de la confiance est une question de droit que le Tribunal fédéral peut examiner librement (art. 106 al. 1 LTF); pour trancher cette question, il faut cependant se fonder sur le contenu de la manifestation de volonté et sur les circonstances, dont la constatation relève du fait (ATF 133 III 675 consid. 3.3 p. 681 s.). Les circonstances déterminantes sont celles qui ont précédé ou accompagné la manifestation de volonté (ATF 133 III 61 consid. 2.2.1 p. 67).
Le sens d'un texte, apparemment clair, n'est pas forcément déterminant, de sorte que l'interprétation purement littérale est prohibée. Même si la teneur d'une clause contractuelle paraît limpide à première vue, il peut résulter d'autres conditions du contrat, du but poursuivi par les parties ou d'autres circonstances que le texte de ladite clause ne restitue pas exactement le sens de l'accord conclu. Il n'y a cependant pas lieu de s'écarter du sens littéral du texte adopté par les cocontractants lorsqu'il n'existe aucune raison sérieuse de penser qu'il ne correspond pas à leur volonté (ATF 133 III 61 consid. 2.2.1 p. 67).
3.2 Dans le cas d'espèce, la cour cantonale a retenu que la prohibition de concurrence vise, de manière claire, l'activité personnelle du travailleur, à son compte personnel ou pour le compte d'autrui et non pas, comme soutenu à tort par la recourante, toute activité déployée dans une entreprise qui se trouve dans un rapport de haute concurrence avec la recourante. L'autorité cantonale a exposé qu'une telle exclusion, à supposer qu'elle ne soit pas excessive, devrait ressortir très clairement des termes du contrat, ce qui n'est pas le cas en l'espèce, puisque absolument rien n'indique que les parties aient voulu adopter une clause aussi lourde de conséquences.
Dans la mesure où la recourante soutient que les premiers juges ont effectué des déductions insoutenables et violé l'application du principe de la confiance pour avoir retenu que la clause de prohibition de concurrence était générale, et par là excessive, elle fait une lecture erronée du jugement entrepris, qui ne fait nullement état d'une telle considération. Cela étant, la critique s'y rapportant tombe d'emblée à faux.
Quant à l'interprétation donnée par la cour cantonale de la clause litigieuse, elle doit être suivie, que la cour ait établi la volonté réelle et concordante des parties ou qu'elle ait interprété la clause litigieuse selon le principe de la confiance - ce qui ne ressort pas clairement du texte de l'arrêt attaqué. Tout d'abord, la recourante ne démontre pas que l'autorité cantonale aurait constaté arbitrairement la volonté des parties, puisqu'elle se contente de dénoncer, sans autre explication, une interprétation insoutenable de la clause litigieuse. A défaut d'une motivation suffisante au sens de l'art. 42 al. 2 LTF, le grief est, sur ce point, irrecevable. Dans l'hypothèse d'une application par la cour cantonale du principe de la confiance, l'interprétation donnée de la clause litigieuse ne prête par ailleurs pas à critique. La recourante n'avance, à l'appui de son grief, aucune circonstance qui permettrait de considérer que la clause de prohibition de concurrence viserait autre chose que l'activité personnelle du travailleur, à son compte personnel ou pour le compte d'autrui. Elle ne critique en particulier pas les considérations émises au sujet de la terminologie utilisée par les parties. En outre, l'arrêt attaqué ne contient aucun élément de fait qui permettrait de contredire le sens objectif de la déclaration des parties. Dans ces circonstances, on ne voit pas que l'interprétation faite de la clause litigieuse serait contraire au droit fédéral.
3.3 Les juges cantonaux ont retenu que l'exercice d'une activité concurrente dans le domaine des montres à répétition minute, dans la période couverte par la clause de prohibition de concurrence, n'a pas été prouvée à satisfaction, alors que cette preuve incombait à la recourante - demanderesse. Ils ont bien plus constaté qu'il ressortait du témoignage du supérieur de l'intimé que celui-ci n'avait « pas touché à des mouvements à répétition » chez son nouvel employeur, que cette déposition n'a pas été délivrée aux fins de la cause et que son contenu n'est démenti par aucun indice objectif.
La recourante dénonce une appréciation arbitraire des preuves. Elle reproche aux magistrats de s'être fondés uniquement sur le témoignage de ce supérieur pour retenir l'absence de preuve de l'exercice de toute activité dans le domaine des montres mécaniques à répétition au sein de son nouvel employeur et d'avoir ainsi effectué des déductions insoutenables au sens de l'art. 9 Cst.
La recourante perd manifestement de vue qu'il lui appartenait de prouver que l'intimé a violé la clause de prohibition de concurrence, ce qu'elle n'a pas fait à satisfaction, et que le témoignage litigieux évoque l'absence de toute activité concurrente et non pas le contraire. Dès lors que la recourante n'indique, à l'appui de son grief, aucun moyen de preuve à même d'établir l'exercice par l'ex-employé de l'activité prohibée, on ne voit pas que l'autorité cantonale aurait violé l'interdiction de l'arbitraire en retenant, référence faite au témoignage litigieux, que l'exercice d'une activité dans le domaine des montres à répétition minute n'a pas été établie; la recourante ne démontre en tout cas pas le contraire.
4. La recourante se plaint enfin d'une violation de l'art. 340 al. 2 CO et de l'art. 8 CC.
4.1 Aux termes de l'art. 340 al. 2 CO, la prohibition de faire concurrence n'est valable que si les rapports de travail permettent au travailleur d'avoir connaissance de la clientèle ou de secrets de fabrication ou d'affaires de l'employeur et si l'utilisation de ces renseignements est de nature à causer à l'employeur un préjudice sensible. Le travailleur doit ainsi être amené, dans le cadre des rapports de travail, à connaître la clientèle ou des secrets de fabrication ou d'affaires de l'employeur, et doit aussi pouvoir causer, en cas de rupture des rapports de travail, un préjudice à l'employeur en exploitant les éléments dont il acquiert connaissance en étant à son service. Le défaut de l'une de ces conditions cumulatives entraîne la nullité de la clause de prohibition de concurrence (Rémy Wyler, Droit du travail, 2e éd. 2008, p. 596 ss; Ullin Streiff/Adrian von Kaenel, Arbeitsvertrag, 6e éd. 2006, n. 4 ad art. 340 CO).
Pour être qualifiées de secrets d'affaires ou de fabrication, les connaissances acquises par le travailleur doivent toucher à des questions techniques, organisationnelles ou financières, qui sont spécifiques et que l'employeur veut garder secrètes (arrêt C 491/86 du 1er décembre 1987 consid. 1, in SJ 1989 I p. 683; voir ég. Ullin Streiff/Adrian von Kaenel, op. cit., n. 12 ad art. 340 CO; Florence Aubry Girardin, Aspects de la clause d'interdiction de concurrence, in Journée 1996 de droit du travail et de la sécurité sociale, Zürich 1999, p. 9). Les connaissances qui peuvent être acquises dans toutes les entreprises de la même branche constituent l'expérience professionnelle du travailleur et ne sont pas des secrets (arrêt C 491/86 du 1er décembre 1987 consid. 1 précité; Florence Aubry Girardin, op. cit., p. 10; Rémy Wyler, op. cit., p. 600; Gabriel Aubert, Commentaire romand, n. 6 ad art. 340 CO). Il appartient à l'employeur d'établir que les connaissances litigieuses sont objectivement secrètes et qu'il entend qu'elles ne soient pas divulgées.
Selon l'art. 8 CC, chaque partie doit, si la loi ne prescrit le contraire, prouver les faits qu'elle allègue pour en déduire son droit. Pour toutes les prétentions relevant du droit privé fédéral, cette disposition répartit le fardeau de la preuve, auquel correspond, en principe, le fardeau de l'allégation, et, partant, les conséquences de l'absence de preuve ou d'allégation (ATF 129 III 18 consid. 2.6 p. 24).
4.2 Dans le cas d'espèce, l'autorité cantonale a posé que les connaissances, même très pointues, des horlogers de haut de gamme appartiennent à l'expérience professionnelle du travailleur, dans toute la mesure où elles peuvent être acquises de la même manière dans toutes les entreprises de la même branche et qu'il appartient à l'employeur d'alléguer et d'établir l'acquisition de connaissances présentant des caractéristiques inconnues des autres manufacturiers. A défaut d'allégation suffisante en lien avec l'accès par l'ex-employé à des secrets de fabrication, les magistrats n'ont pas reconnu la validité de la clause de prohibition.
La recourante prétend, dans un premier temps, que l'autorité cantonale a violé l'art. 340 al. 2 CO pour avoir considéré que les connaissances acquises par l'intimé auprès de son entreprise ne pouvaient être qualifiées de secrets de fabrication; elle soutient que les spécificités techniques de chaque mouvement ne peuvent être acquises de la même manière dans toutes les manufactures horlogères et qu'elles n'appartiennent donc pas à l'expérience professionnelle du travailleur. Sous le couvert d'une violation de l'art. 8 CC, la recourante réfute, dans un second temps, l'absence d'allégation au sujet d'une prise de connaissance, par l'employé, d'innovations techniques inconnues de ses concurrents; elle affirme, de manière appellatoire, que les faits tels qu'allégués étaient suffisamment précis au regard de l'art. 340 CO pour permettre de juger que les connaissances acquises consistaient en des procédés de fabrication à caractère technique dignes de protection. Elle soutient en outre qu'elle était en droit de faire administrer l'expertise judiciaire, conformément à l'art. 8 CC.
Les connaissances acquises par le travailleur au sein d'une entreprise ne sauraient être qualifiées de secrets de fabrication, si le travailleur n'a pas été formé à une technique de fabrication propre à l'entreprise formatrice - ce même si les connaissances acquises ne sont ni notoires ni facilement accessibles, comme soutenu par la recourante. Or, il ressort du jugement entrepris que la recourante n'a pas allégué, sauf d'une manière toute générale, que l'intimé aurait été initié, au sein de son entreprise, à des innovations techniques inconnues de ses concurrents. Dans la mesure où la recourante ne critique pas valablement cette constatation - qui relève des faits et lie donc le Tribunal fédéral -, le grief dénonçant une violation de l'art. 340 CO tombe à faux. Ce résultat se justifie à plus forte raison que la recourante reconnaît que les mouvements à répétition et à tourbillon sont des procédés de fabrication à caractère technique « connus d'une infime élite d'horlogers », dont fait partie le nouvel employeur de l'intimé, et donc qu'elle n'en a pas l'exclusivité. En outre, le fait que chaque manufacture possède son propre programme de formation pour le montage des mouvements ne signifie pas encore, quoi qu'en pense la recourante, que le travailleur ait appris des techniques ou des tours de main spécifiques à l'entreprise et, encore moins, qu'il risque d'en faire bénéficier des tiers. La recourante parle du reste d'impossibilité, pour un horloger qualifié, de monter un mouvement chez un concurrent sans période de formation préalable.
Par ailleurs, en posant qu'il appartenait à la recourante d'alléguer que les connaissances acquises par le travailleur étaient objectivement secrètes, la cour cantonale n'a pas inversé le fardeau de l'allégation et, par voie de conséquence, celui de la preuve. Cela étant, la juridiction cantonale n'a pas enfreint l'art. 8 CC.
5. Compte tenu de l'issue du litige, les frais judiciaires et dépens sont mis à la charge de la recourante, qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure de sa recevabilité.
2. Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge de la recourante.
3. Une indemnité de 3'000 fr., à payer à l'intimé à titre de dépens, est mise à la charge de la recourante.
4. Le présent arrêt est communiqué aux mandataires des parties et à la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 3 décembre 2008
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
Le Président: La Greffière:
Corboz Crittin