Datasets:
File size: 3,797 Bytes
6711d2f 87e2f36 6711d2f 87e2f36 faa7446 6711d2f 87e2f36 faa7446 87e2f36 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 |
#!/usr/bin/env bash
###
### Resources:
### - Helsinki NLP Opus resources (english - basque): https://opus.nlpl.eu/results/en&eu/corpus-result-table
# TODO
# English - Basque Wikinews MT Test Set
# https://live.european-language-grid.eu/catalogue/corpus/19734
# 1788 parallel segments
#
# Not so good quality, take only 20% and filtered ?
# https://community.libretranslate.com/t/ccmatrix-quality-warning/903
ccmatrix() {
cd raw
wget -O ccmatrix-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-CCMatrix/v1/tmx/en-eu.tmx.gz
gzip -d ccmatrix-en-eu.tmx.gz
tmx-to-text convert -f ccmatrix-en-eu.tmx -s en -t eu -p ccmatrix
rm -f ccmatrix-en-eu.tmx
mv ccmatrix.en-eu.en ../
mv ccmatrix.en-eu.eu ../
cd ..
}
#
opensubtitles() {
cd raw
wget -O opensubtitles-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-OpenSubtitles/v2018/tmx/en-eu.tmx.gz
gzip -d opensubtitles-en-eu.tmx.gz
tmx-to-text convert -f opensubtitles-en-eu.tmx -s en -t eu -p opensubtitles
rm -f opensubtitles-en-eu.tmx
mv opensubtitles.en-eu.en ../
mv opensubtitles.en-eu.eu ../
}
xlent() {
cd raw
wget -O xlent-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-XLEnt/v1.2/tmx/en-eu.tmx.gz
gzip -d xlent-en-eu.tmx.gz
tmx-to-text convert -f xlent-en-eu.tmx -s en -t eu -p xlent
rm -f xlent-en-eu.tmx
mv xlent.en-eu.en ../
mv xlent.en-eu.eu ../
}
gnome() {
cd raw
wget -O gnome-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-GNOME/v1/tmx/en-eu.tmx.gz
gzip -d gnome-en-eu.tmx.gz
tmx-to-text convert -f gnome-en-eu.tmx -s en -t eu -p gnome
rm -f gnome-en-eu.tmx
mv gnome.en-eu.en ../
mv gnome.en-eu.eu ../
}
hplt() {
cd raw
wget -O hplt-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-HPLT/v1.1/tmx/en-eu.tmx.gz
gzip -d hplt-en-eu.tmx.gz
tmx-to-text convert -f hplt-en-eu.tmx -s en -t eu -p hplt
rm -f hplt-en-eu.tmx
mv hplt.en-eu.en ../
mv hplt.en-eu.eu ../
}
ehuhac() {
cd raw
wget -O ehuhac-en-eu.gmx.gz https://object.pouta.csc.fi/OPUS-EhuHac/v1/tmx/en-eu.tmx.gz
gzip -d ehuhac-en-eu.gmx.gz
tmx-to-text convert -f ehuhac-en-eu.gmx -s en -t eu -p ehuhac
rm -f ehuhac-en-eu.gmx
mv ehuhac.en-eu.en ../
mv ehuhac.en-eu.eu ../
}
kde4() {
cd raw
wget -O kde4-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-KDE4/v2/tmx/en-eu.tmx.gz
gzip -d kde4-en-eu.tmx.gz
tmx-to-text convert -f kde4-en-eu.tmx -s en -t eu -p kde4
rm -f kde4-en-eu.tmx
mv kde4.en-eu.en ../
mv kde4.en-eu.eu ../
}
tatoeba() {
cd raw
wget -O tatoeba-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-Tatoeba/v2023-04-12/tmx/en-eu.tmx.gz
gzip -d tatoeba-en-eu.tmx.gz
tmx-to-text convert -f tatoeba-en-eu.tmx -s en -t eu -p tatoeba
rm -f tatoeba-en-eu.tmx
mv tatoeba.en-eu.en ../tatoeba.en-eu.en
mv tatoeba.en-eu.eu ../tatoeba.en-eu.eu
}
wikinews() {
cd raw
wget -O wikinews-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-ELRC-4993-Basque_Wikinews_MT/v1/tmx/en-eu.tmx.gz
gzip -d wikinews-en-eu.tmx.gz
tmx-to-text convert -f wikinews-en-eu.tmx -s en -t eu -p wikinews
rm -f wikinews-en-eu.tmx
mv wikinews.en-eu.en ../wikinews.en-eu.en
mv wikinews.en-eu.eu ../wikinews.en-eu.eu
}
wikihealth() {
cd raw
wget -O wikihealth-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-ELRC-3042-wikipedia_health/v1/tmx/en-eu.tmx.gz
gzip -d wikihealth-en-eu.tmx.gz
tmx-to-text convert -f wikihealth-en-eu.tmx -s en -t eu -p wikihealth
rm -f wikihealth-en-eu.tmx
mv wikihealth.en-eu.en ../wikihealth.en-eu.en
mv wikihealth.en-eu.eu ../wikihealth.en-eu.eu
}
paco() {
cd raw
wget -O paco-en-eu.tgz https://hizkuntzateknologiak.elhuyar.eus/assets/files/paco-euen-corpus.tgz
tar xzf paco-en-eu.tgz
mv PaCo_EuEn_corpus/PaCo_corpus.en-eu.en ../paco.en-eu.en
mv PaCo_EuEn_corpus/PaCo_corpus.en-eu.eu ../paco.en-eu.eu
}
rm -R -f raw
mkdir raw
#ccmatrix
#opensubtitles
#xlent
#gnome
#hplt
#ehuhac
kde4
#tatoeba
#wikinews
#wikihealth
#paco
|