A.- X._ a été incarcéré le 21 juillet 1998 afin de subir une peine de 3 ans de réclusion pour actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance.
Au mois de mai 2000, la libération conditionnelle du détenu a été refusée (décision confirmée par la Cour de cassation pénale du Tribunal cantonal vaudois dans un arrêt du 27 juillet 2000).
B.- Le Service pénitentiaire du canton de Vaud a cependant décidé le 30 mai 2000 d'autoriser le condamné à poursuivre l'exécution de sa peine en régime de semi-liberté (<ref-law>). Cette mesure était subordonnée aux conditions que l'intéressé exerce une activité professionnelle à 100 % au sein du Groupe romand d'accueil et d'action psychiatrique (abrégé GRAAP), qu'il soit suivi régulièrement par une assistante sociale de la Société vaudoise de patronage et qu'il s'engage par écrit à payer régulièrement les indemnités dues à la victime.
Ce régime de semi-liberté a débuté le 5 juin 2000.
C.- Le 9 juin 2000, l'employeur du condamné a informé le Service pénitentiaire que le contrat de travail de celui-ci était résilié avec effet immédiat. Cette décision était due au fait que le détenu n'avait jamais respecté les horaires fixés, cela dès le début de son activité, et qu'il avait manifesté un manque de collaboration évident.
L'arrestation du condamné a été ordonnée. Il s'est avéré qu'il avait pris la fuite (ce qu'il conteste) dès 11 heures 55, mais qu'il avait réintégré de son plein gré la prison à 22 heures 45.
Invité à se déterminer sur son comportement, le détenu a écrit le 15 juin 2000 au Service pénitentiaire.
En bref, il invoque un malentendu au sujet de son absence l'après-midi du 9 juin 2000; selon lui, un congé lui était dû et il en aurait profité ce jour-là, en raison de violents maux de tête.
D.- Par décision du 16 juin 2000, le Service pénitentiaire a ordonné la réintégration du condamné en régime ordinaire. Cette autorité a considéré que le rapport de confiance accru et indispensable à la semi-liberté était rompu et que l'une des conditions légales de ce régime, soit une activité occupationnelle, faisait désormais défaut.
E.- Par un arrêt du 3 août 2000, la Cour de cassation pénale du Tribunal cantonal vaudois a rejeté le recours du détenu. La voie du recours de droit administratif au Tribunal fédéral est indiquée au pied de cette décision.
F.- Le condamné saisit le Tribunal fédéral d'un recours de droit administratif tendant à l'annulation de l'arrêt du 3 août 2000 et à l'octroi immédiat d'un nouveau régime de semi-liberté jusqu'à complète instruction des faits. Il demande que les frais d'arrêt de deuxième instance soient mis à la charge de l'Etat de Vaud.
D'après le détenu, en bref, on ne saurait l'accuser d'avoir fui car son absence résultait d'un congé agréé par son "employeur" pour raison de santé; il serait de plus arbitraire de ne pas lui avoir donné l'occasion de mieux s'expliquer sur les raisons exactes de son licenciement, considéré comme déterminant par les autorités cantonales. Il invoque la protection constitutionnelle contre l'arbitraire (art. 9 Cst.)

Considérant en droit :
1.- En matière d'exécution des peines, la voie du recours de droit public est ouverte lorsque la décision attaquée est fondée sur le droit cantonal autonome, non pas sur des dispositions de droit public de la Confédération ou de droit cantonal d'exécution (<ref-ruling> consid. 1a/aa p. 233 et la jurisprudence citée). Ainsi, la voie du recours de droit public est ouverte contre les décisions relatives aux congés en cours de détention (arrêt non publié K. c/ Service pénitentiaire du canton de Vaud du 21 juillet 1999 consid. 1b); il en va de même s'agissant du traitement d'un détenu lors d'une peine disciplinaire (<ref-ruling> précité).
Au contraire, le recours de droit administratif est ouvert contre les décisions sur la libération conditionnelle, sur les visites au détenu et sur le placement dans un établissement pour condamnés primaires (<ref-ruling> consid. 1a/aa et la jurisprudence citée).
Dans le domaine de la semi-liberté, la Cour de céans a statué sur des recours de droit administratif formés contre des décisions refusant l'octroi de cette mesure prévue à l'<ref-law> (<ref-ruling>; <ref-ruling>).
Certes, les ordonnances du CP (OCP 1, 2 et 3) sont muettes sur la question de la semi-liberté. Le régime de fin de peine entre dans le champ d'application du Concordat sur l'exécution des peines et des mesures concernant les adultes et les jeunes adultes dans les cantons romands et du Tessin (RS 343. 3). L'art. 18 al. 2 let. b de ce texte donne en principe au canton de jugement la compétence de statuer sur le régime de fin de peine. La Conférence des autorités cantonales compétentes en matière pénitentiaire, organe de ce concordat, a édicté un règlement, du 10 octobre 1988, sur le régime progressif de l'exécution des peines et de l'internement des délinquants d'habitude (voir Recueil systématique de la législation vaudoise, RSV 3.9.C). A l'art. 4 ch. 2, ce règlement prévoit les conditions du passage en régime de semi-liberté (l'évolution ainsi que le comportement de l'intéressé doivent le permettre; de plus, une place de travail attestée par un contrat et agréée par l'autorité de placement doit être trouvée). L'art. 5 prévoit la réintégration du condamné dans une phase antérieure de l'exécution de sa peine en cas de non respect des conditions ou pour motifs graves. La loi vaudoise sur l'exécution des condamnations pénales et de la détention préventive (LEP, RSV 3.9) réserve les dispositions du concordat à l'art. 1er al. 2; selon l'art. 76 al. 1er LEP, la Cour de cassation pénale du Tribunal cantonal est compétente pour connaître des recours contre les décisions du département vaudois des institutions et des relations extérieures pouvant faire l'objet d'un recours de droit administratif au Tribunal fédéral. On constate ainsi que la révocation du régime de semi-liberté est en grande partie régie par des normes intercantonales et cantonales, ce qui pourrait conduire à considérer qu'il s'agit de droit cantonal d'exécution; le recours de droit administratif au Tribunal fédéral serait ainsi exclu et seul le recours de droit public, directement contre la décision du département cantonal, demeurerait ouvert.
Cependant, vu la jurisprudence précitée, où la Cour de céans a examiné un recours de droit administratif relatif à l'octroi de la semi-liberté (<ref-ruling>), il se justifie de considérer que la révocation de cette mesure peut également donner matière à un recours de même nature.
A cet égard, le recours de droit administratif est recevable.
2.- En premier lieu, le recourant fait sien l'état de fait constaté par la cour cantonale, à l'exception de l'accusation de fuite l'après-midi du 9 juin 2000. Il s'agirait d'un fait manifestement inexact au sens de l'art. 105 al. 2 OJ.
Sur ce point, l'autorité cantonale de recours a considéré que c'est le comportement général du détenu qui a motivé son licenciement si bien que la question de savoir s'il avait ou non pris la fuite n'était pas essentielle (arrêt attaqué p. 6 let. b).
Cette motivation de l'autorité cantonale est convaincante. Dès lors, il est sans pertinence de savoir si l'absence du recourant l'après-midi en cause constituait une fuite ou résultait d'un congé convenu avec l'employeur.
Le moyen tiré de l'inexactitude alléguée est mal fondé.
3.- a) D'après le recourant, il serait nécessaire de faire toute la lumière sur les circonstances de son absence du 9 juin 2000 car le mauvais comportement reproché ne serait qu'un prétexte; en effet, il comprend mal que son licenciement n'ait pas été précédé d'un avertissement.
Selon l'art. 105 al. 2 OJ, le Tribunal fédéral est lié par les faits constatés dans la décision attaquée (sauf inexactitude, lacunes ou violations des règles de la procédure). La cour cantonale a souverainement constaté, on l'a vu au considérant 2 ci-dessus, que c'est le comportement général du détenu qui est à l'origine de son licenciement. Cette constatation repose notamment sur une télécopie du GRAAP au Service pénitentiaire signalant la résiliation du contrat de travail avec effet à midi le 9 juin 2000; or, cette télécopie du 9 juin 2000 a été expédiée à 12 heures 48, soit avant que l'on puisse savoir que l'intéressé serait absent tout l'après-midi ce qui pouvait faire penser à une fuite. Le GRAAP s'est donc fondé sur le comportement déficient du détenu avant l'après-midi du 9 juin 2000.
Quant à l'absence d'avertissement verbal ou écrit, il s'agit d'un fait allégué qui n'est pas constaté.
Il n'y a donc pas lieu d'examiner le moyen qu'en tire le recourant.
b) En dernier lieu, le détenu estime arbitraire le refus de l'entendre sur les circonstances de sa prétendue fuite et d'être confronté à son employeur.
On ne saurait suivre cette argumentation car, d'une part, le détenu a eu l'occasion de s'expliquer avant la révocation du régime de semi-liberté, ce qu'il a d'ailleurs fait. D'autre part, on l'a vu, les circonstances de ce qu'il nomme sa "prétendue fuite", sont sans pertinence.
Quant à une confrontation avec le responsable du GRAAP, on ne discerne pas quels éléments favorables au recourant pourraient en ressortir. Il ne le précise pas non plus; en particulier, il ne soutient pas que les reproches du GRAAP (inobservation des horaires fixés, manque de collaboration) soient infondés et ne démontre pas en quoi ils le seraient. Ainsi, le refus de procéder à une instruction complémentaire ne viole pas le droit d'être entendu de l'intéressé. La décision attaquée n'est pas non plus contraire à l'art. 9 Cst.
4.- Mal fondé, le recours doit être rejeté, aux frais de son auteur.

Par ces motifs,
le Tribunal fédéral,
1. Rejette le recours;
2. Met à la charge du recourant un émolument judiciaire de 1000 fr.;
3. Communique le présent arrêt en copie au mandataire du recourant, à la Cour de cassation pénale du Tribunal cantonal vaudois et au Service pénitentiaire du canton de Vaud.
_
Lausanne, le 20 novembre 2000
Au nom de la Cour de cassation pénale
du TRIBUNAL FEDERAL SUISSE:
Le Président,
Le Greffier,