Faits:
A. Par décision du 13 décembre 2010, l'Office d'application des peines et mesures neuchâtelois a, notamment, autorisé X._ - condamné à une peine privative de liberté de deux ans et demi, dont neuf mois ferme et vingt-et-un avec sursis - à subir sa peine sous le régime de la semi-détention à la Maison de détention Les Falaises, à Fribourg, dès le 14 février 2011, l'a enjoint de s'y présenter à cette date et l'a informé des horaires de l'établissement du lundi au vendredi (sortie : 5h45 / entrée : 22h00), le samedi (sortie : 7h15 / entrée : 20 h00) et le dimanche (détention ferme).
X._ a recouru contre cette décision auprès du Département de la justice, de la sécurité et des finances du canton de Neuchâtel pour contester le lieu d'exécution de la semi-détention. Par décision du 26 mai 2011, le Département a rejeté son recours.
B. Statuant le 31 août 2011, la Cour de droit public du Tribunal cantonal neuchâtelois a confirmé la décision du Département.
Pour l'essentiel, cet arrêt retient ce qui suit :
B.a X._ est employé, depuis le 1er août 2008, auprès d'une entreprise de coffres-forts et de machines-outils, sise au Crêt-du-Locle, en qualité de chauffeur poids-lourds responsable des livraisons et manutentions (mises en place) avec camion solo ou camion grue pour toute la Suisse et l'étranger. Il effectue un horaire de travail du lundi au vendredi, de 7h00 à 18h00, et le samedi, de 7h00 à 17h00, avec une pause de 1h30 à midi. Le train qui arrive à 7h08 au Crêt-du-Locle part de 5h32 de Fribourg. Compte tenu des horaires de train entre Fribourg et Le Crêt-du-Locle, X._ doit quitter l'établissement pénitentiaire Les Falaises à 5 heures pour arriver au travail avec vingt minutes de retard.
B.b La cour cantonale a constaté que cela n'était toutefois pas un obstacle à l'exécution de la peine dans cet établissement qui devait tenir compte notamment dans la fixation des horaires de l'activité et de la durée des trajets de la personne détenue. Elle a retenu que la direction de l'établissement pénitentiaire fera preuve de souplesse et adaptera son heure de sortie pour tenir compte de l'horaire de travail de X._, puisqu'elle s'était déclarée prête à l'accueillir. En outre, il appartiendra à l'employeur de l'intéressé, qui n'ignorait pas, au moment de l'engager, les préventions qui pesaient sur lui et le risque qu'une peine ferme puisse être prononcée à son encontre, de faire preuve de compréhension.
C. Contre cet arrêt, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Il conclut à l'annulation de l'arrêt attaqué et à ce que le Tribunal fédéral constate qu'il ne doive pas exécuter sa peine, sous le régime de la semi-détention, à la Maison de détention Les Falaises à Fribourg, mais dans le canton de Neuchâtel. En outre, il demande la restitution de l'effet suspensif.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. 1.1 Le recours en matière pénale est ouvert à l'encontre d'une décision relative à l'exécution des peines (<ref-law>).
1.2 Il suppose que le recourant fasse valoir qu'il dispose d'un intérêt juridique à l'annulation de la décision attaquée (<ref-law>) ; un intérêt général ou de fait est insuffisant (<ref-ruling> consid. 2.3 p. 230 s.). Si le détenu n'a en principe pas le droit de choisir le lieu de l'exécution de sa peine, le recourant fait valoir, en l'espèce, que l'éloignement de l'établissement pénitentiaire de son lieu de travail risque de lui faire perdre son emploi, ce qui entraînerait l'interruption de la semi-détention et l'exécution de sa peine en régime ordinaire (<ref-law> ; cf. consid. 4.1, 2e paragraphe in fine). Dans cette mesure, on peut admettre qu'il a un intérêt juridique à l'annulation de la décision attaquée et, partant, la qualité pour recourir.
2. Dans un premier moyen, le recourant invoque l'art. 9 de l'ordonnance sur la durée du travail et du repos des conducteurs professionnels de véhicules automobiles (ordonnance sur les chauffeurs, OTR 1 ; RS 822.221). Il soutient que cette disposition qui impose aux chauffeurs professionnels un temps de repos de onze heures - ou, si celui-ci est pris en deux tranches, de douze heures - s'oppose à ce qu'il fasse le trajet entre le Crêt-du-Locle et la prison de Fribourg en voiture.
Ce grief n'est pas pertinent, car la cour cantonale a admis que le trajet entre le lieu de détention et le lieu de travail devait pouvoir s'effectuer au moyen des transports publics.
3. Le recourant reproche à la cour cantonale l'arbitraire dans la constatation des faits.
3.1 Le Tribunal fédéral statue sur la base des faits retenus par l'arrêt entrepris (<ref-law>), sous réserve des cas prévus à l'<ref-law>. La partie recourante ne peut ainsi critiquer ces faits que s'ils ont été établis en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (sur la notion d'arbitraire, cf. <ref-ruling> consid. 2.4 p. 5; 58 consid. 4.1.2 p. 62), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>).
3.2 Le recourant soutient qu'il est arbitraire d'avoir constaté que la direction de l'établissement pénitentiaire fribourgeois fera preuve de souplesse dans son horaire de sortie pour lui permettre de respecter son horaire de travail. Dans son argumentation, il fait valoir que la décision du 13 décembre 2010 de l'Office d'application des peines et des mesures mentionne l'horaire de l'établissement pénitentiaire Les Falaises, rappelant qu'à défaut d'obtempérer à cette décision la personne y sera contrainte par la force publique. Il critique la référence à un arrêté neuchâtelois concernant l'exécution facilitée des peines privatives de liberté de courte et de moyenne durée (RSN 351.1), qui obligerait la direction de l'établissement pénitentiaire à tenir compte des horaires de travail du détenu, dans la mesure où cet arrêté est inapplicable à l'établissement fribourgeois. Enfin, selon le recourant, il est inconcevable que ce dernier puisse, pour des raisons d'organisation interne, adapter son horaire.
Il est vrai que l'arrêté précité n'est pas applicable aux établissements pénitentiaires fribourgeois, mais la décision du 25 septembre 2008 relative à l'exécution des peines sous la forme de la semi-détention de la Conférence latine des autorités cantonales compétentes en matière d'exécution des peines et des mesures (RSF 342.13), applicable dans le canton de Fribourg, préconise aussi une certaine souplesse de la part des autorités d'exécution quant aux heures de départ et de sortie de l'établissement pour tenir compte du travail du détenu (cf. art. 6). En outre, contrairement à ce qu'affirme le recourant, la décision du 13 décembre 2010 de l'Office d'application des peines et des mesures du canton de Neuchâtel a informé le recourant, de manière générale, des heures d'entrée et de sortie de l'établissement, mais précise que les heures de départ et de retour à la prison sont fixées par la direction de l'établissement compte tenu de l'horaire de travail de la personne condamnée et de l'organisation interne de la prison. Comme le relève la cour cantonale, l'établissement fribourgeois a accepté d'accueillir le recourant, tout en connaissant son horaire de travail, de sorte que l'on peut admettre qu'il est apte et prêt à adapter ses heures de sortie. Contrairement à ce qu'affirme le recourant, il ne paraît du reste pas inconcevable de le laisser partir à 5 heures, dans la mesure où les autres détenus sont réveillés à cette heure-là. Au vu de l'ensemble de ces circonstances, la cour de céans ne voit pas en quoi la cour cantonale serait tombée dans l'arbitraire en retenant que l'établissement Les Falaises à Fribourg fera preuve d'une certaine souplesse en adaptant ses heures de sortie au recourant. Mal fondé, le grief tiré de l'arbitraire dans l'établissement des faits doit être rejeté.
4. Le recourant se plaint d'une mauvaise application de l'<ref-law>, au motif que l'exécution de sa semi-détention dans le canton de Fribourg ne peut que lui faire perdre son emploi et, partant, entraîner l'interruption de la semi-détention et l'exécution de sa peine en régime ordinaire.
4.1 La semi-détention doit permettre au condamné de conserver son travail ou sa place de formation, et de prévenir ainsi le danger de coupure avec le monde professionnel (BAECHTOLD, Strafrecht I, Basler Kommentar, 2e éd., 2007, n. 2 ad <ref-law>; VIREDAZ/VALLOTTON, Code pénal I, Commentaire romand, 2009, n. 1 ad <ref-law>). L'<ref-law> subordonne la semi-détention à deux conditions cumulatives: il doit s'agir d'une peine privative de liberté de six mois à un an (cf. aussi art. 79 al. 1 et 3 CP); en outre, il ne doit pas exister de danger de fuite ou de récidive. Une troisième condition découle directement du but de la semi-détention: le condamné doit disposer d'une activité professionnelle ou suivre une formation (BAECHTOLD, op. cit., n. 8 ad <ref-law>).
Les concordats intercantonaux règlent plus précisément l'institution de la semi-détention. Pour ce qui est des cantons latins, la Conférence latine des autorités cantonales compétentes en matière d'exécution des peines et des mesures a adopté, le 25 septembre 2008, une décision relative à l'exécution des peines sous la forme de la semi-détention. Selon cette décision, l'autorité d'exécution autorise l'exécution sous forme de la semi-détention et en fixe les conditions. Cette autorisation contient au moins la date et le lieu d'exécution, ainsi que les heures de départ et d'arrivée, l'horaire, en fonction de l'activité ou du travail ou de l'occupation et de l'organisation du service de l'établissement (art. 5 de la décision). L'autorité d'exécution prend en compte, dans la mesure du possible, le lieu de domicile, le type et le travail, l'occupation ou l'activité de la personne condamnée (art. 6 de la décision). Elle interrompt la semi-détention et ordonne l'exécution de la peine en régime ordinaire lorsque le détenu ne respecte pas les conditions fixées (par ex. non-respect des horaires, consommation d'alcool ou de drogue) (art. 12 de la décision) ou en cas de perte du travail (cf. art. 14 de la décision a contrario).
Les concordats intercantonaux règlent plus précisément l'institution de la semi-détention. Pour ce qui est des cantons latins, la Conférence latine des autorités cantonales compétentes en matière d'exécution des peines et des mesures a adopté, le 25 septembre 2008, une décision relative à l'exécution des peines sous la forme de la semi-détention. Selon cette décision, l'autorité d'exécution autorise l'exécution sous forme de la semi-détention et en fixe les conditions. Cette autorisation contient au moins la date et le lieu d'exécution, ainsi que les heures de départ et d'arrivée, l'horaire, en fonction de l'activité ou du travail ou de l'occupation et de l'organisation du service de l'établissement (art. 5 de la décision). L'autorité d'exécution prend en compte, dans la mesure du possible, le lieu de domicile, le type et le travail, l'occupation ou l'activité de la personne condamnée (art. 6 de la décision). Elle interrompt la semi-détention et ordonne l'exécution de la peine en régime ordinaire lorsque le détenu ne respecte pas les conditions fixées (par ex. non-respect des horaires, consommation d'alcool ou de drogue) (art. 12 de la décision) ou en cas de perte du travail (cf. art. 14 de la décision a contrario).
4.2 4.2.1 Il a été admis que le recourant remplissait les conditions de la semi-détention. Il n'y a donc pas lieu de revenir sur cette question.
4.2.2 La cour cantonale a constaté - sans arbitraire (cf. consid. 3.2) - que le recourant pourra quitter l'établissement pénitentiaire à 5 heures et prendre le train de 5h32 qui arrive à 7h06 au Crêt-du-Locle et qu'il arrivera ainsi au travail avec environ vingt minutes de retard sur son horaire de travail habituel. Elle a retenu que l'employeur fera preuve de compréhension, dès lors que celui-ci n'ignorait pas, au moment de l'engager, les préventions qui pesaient sur lui et le risque qu'une peine ferme puisse être prononcée à son encontre. Cette constatation de fait lie la cour de céans, à moins qu'elle ne soit entachée d'arbitraire (art. 97 al. 1 et 105 al. 1 et 2 LTF ), ce qu'il appartient au recourant de démontrer (<ref-law>). Or, le recourant ne fait pas de telle démonstration. Il se contente d'affirmer de manière appellatoire et, partant, irrecevable, que son employeur résiliera son contrat de travail s'il devait arriver avec 20 minutes de retard le matin. La lettre de l'employeur du 14 septembre 2010 qu'il cite montre au contraire que celui-ci est « très satisfait des prestations [du recourant] [qui est] par sa formation et son expérience un élément essentiel pour la bonne marche de ce département (permis de poids lourds, grue etc.)» et qu'il devrait donc faire preuve de souplesse.
En conclusion, la cour cantonale n'a pas violé l'<ref-law> en ordonnant au recourant d'exécuter sa peine sous la forme de semi-détention dans l'établissement Les Falaises à Fribourg, puisque cette solution lui permettra, au vu des faits constatés, de continuer à exercer son activité professionnelle, tout en exécutant sa peine. Les griefs soulevés sont donc mal fondés.
5. Le recourant invoque le principe d'égalité de traitement (art. 8 al. 1 Cst.). Selon lui, certaines personnes, qui doivent exécuter des peines, peuvent le faire à La Chaux-de-fonds. De la sorte, il invoque un élément de fait nouveau, qui s'écarte des constatations cantonales et qui est donc irrecevable selon l'<ref-law>.
6. Le recourant fait valoir que le principe de la proportionnalité (art. 5 al. 2 Cst.) impose qu'il puisse exécuter sa peine privative de liberté dans le canton de Neuchâtel. Il soutient que l'exécution de la semi-détention à Fribourg lui fera perdre son emploi et que, partant, cette décision porte une atteinte disproportionnée à sa liberté personnelle et à sa liberté économique. Cette solution lui imposerait en outre une durée de trajet entre son lieu de détention et son lieu de travail excessive.
En soutenant que l'exécution de sa peine lui fera perdre son emploi et entraînera partant l'interruption de la semi-détention, le recourant allègue un fait qui n'a pas été retenu dans la décision attaquée (cf. consid. 4.2.2), de sorte que son grief est irrecevable (<ref-law>). Pour le surplus, les chômeurs sont tenus d'accepter tout travail qui nécessite un trajet de deux heures au maximum pour se rendre au travail (art. 16 al. 2 let. f de la loi fédérale sur l'assurance-chômage obligatoire et l'indemnité en cas d'insolvabilité, RS 837.0; LACI). La cour de céans ne voit donc pas que le trajet imposé au recourant porterait atteinte à ses intérêts de manière disproportionnée.
7. Le recours doit être rejeté dans la mesure où il est recevable.
Le recourant, qui succombe, devra supporter les frais (<ref-law>).
Vu l'issue du recours, la demande d'effet suspensif devient sans objet.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Neuchâtel, Cour de droit public.
Lausanne, le 23 février 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Kistler Vianin