File size: 3,797 Bytes
6711d2f
 
 
 
 
 
 
 
 
 
 
 
87e2f36
6711d2f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
87e2f36
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
faa7446
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6711d2f
 
 
 
 
 
 
 
 
 
 
 
 
 
87e2f36
faa7446
 
 
 
 
87e2f36
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
#!/usr/bin/env bash

###
### Resources:
### - Helsinki NLP Opus resources (english - basque): https://opus.nlpl.eu/results/en&eu/corpus-result-table

# TODO
# English - Basque Wikinews MT Test Set
# https://live.european-language-grid.eu/catalogue/corpus/19734
# 1788 parallel segments
#

# Not so good quality, take only 20% and filtered ?
# https://community.libretranslate.com/t/ccmatrix-quality-warning/903
ccmatrix() {
	cd raw
	wget -O ccmatrix-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-CCMatrix/v1/tmx/en-eu.tmx.gz
	gzip -d ccmatrix-en-eu.tmx.gz
	tmx-to-text convert -f ccmatrix-en-eu.tmx -s en -t eu -p ccmatrix
	rm -f ccmatrix-en-eu.tmx
	mv ccmatrix.en-eu.en ../
	mv ccmatrix.en-eu.eu ../
	cd ..
}


# 
opensubtitles() {
	cd raw
	wget -O opensubtitles-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-OpenSubtitles/v2018/tmx/en-eu.tmx.gz
	gzip -d opensubtitles-en-eu.tmx.gz
	tmx-to-text convert -f opensubtitles-en-eu.tmx -s en -t eu -p opensubtitles
	rm -f opensubtitles-en-eu.tmx
	mv opensubtitles.en-eu.en ../
	mv opensubtitles.en-eu.eu ../
}

xlent() {
	cd raw
	wget -O xlent-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-XLEnt/v1.2/tmx/en-eu.tmx.gz
	gzip -d xlent-en-eu.tmx.gz
	tmx-to-text convert -f xlent-en-eu.tmx -s en -t eu -p xlent
	rm -f xlent-en-eu.tmx
	mv xlent.en-eu.en ../
	mv xlent.en-eu.eu ../
}

gnome() {
	cd raw
	wget -O gnome-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-GNOME/v1/tmx/en-eu.tmx.gz
	gzip -d gnome-en-eu.tmx.gz
	tmx-to-text convert -f gnome-en-eu.tmx -s en -t eu -p gnome
	rm -f gnome-en-eu.tmx
	mv gnome.en-eu.en ../
	mv gnome.en-eu.eu ../
}

hplt() {
	cd raw
	wget -O hplt-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-HPLT/v1.1/tmx/en-eu.tmx.gz
	gzip -d hplt-en-eu.tmx.gz
	tmx-to-text convert -f hplt-en-eu.tmx -s en -t eu -p hplt
	rm -f hplt-en-eu.tmx
	mv hplt.en-eu.en ../
	mv hplt.en-eu.eu ../
}

ehuhac() {
	cd raw
	wget -O ehuhac-en-eu.gmx.gz https://object.pouta.csc.fi/OPUS-EhuHac/v1/tmx/en-eu.tmx.gz
	gzip -d ehuhac-en-eu.gmx.gz
	tmx-to-text convert -f ehuhac-en-eu.gmx -s en -t eu -p ehuhac
	rm -f ehuhac-en-eu.gmx
	mv ehuhac.en-eu.en ../
	mv ehuhac.en-eu.eu ../
}

kde4() {
	cd raw
	wget -O kde4-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-KDE4/v2/tmx/en-eu.tmx.gz
	gzip -d kde4-en-eu.tmx.gz
	tmx-to-text convert -f kde4-en-eu.tmx -s en -t eu -p kde4
	rm -f kde4-en-eu.tmx
	mv kde4.en-eu.en ../
	mv kde4.en-eu.eu ../
}

tatoeba() {
	cd raw
	wget -O tatoeba-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-Tatoeba/v2023-04-12/tmx/en-eu.tmx.gz
	gzip -d tatoeba-en-eu.tmx.gz
	tmx-to-text convert -f tatoeba-en-eu.tmx -s en -t eu -p tatoeba
	rm -f tatoeba-en-eu.tmx
	mv tatoeba.en-eu.en ../tatoeba.en-eu.en
	mv tatoeba.en-eu.eu ../tatoeba.en-eu.eu
}

wikinews() {
	cd raw
	wget -O wikinews-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-ELRC-4993-Basque_Wikinews_MT/v1/tmx/en-eu.tmx.gz
	gzip -d wikinews-en-eu.tmx.gz
	tmx-to-text convert -f wikinews-en-eu.tmx -s en -t eu -p wikinews
	rm -f wikinews-en-eu.tmx
	mv wikinews.en-eu.en ../wikinews.en-eu.en
	mv wikinews.en-eu.eu ../wikinews.en-eu.eu
}

wikihealth() {
	cd raw
	wget -O wikihealth-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-ELRC-3042-wikipedia_health/v1/tmx/en-eu.tmx.gz
	gzip -d wikihealth-en-eu.tmx.gz
	tmx-to-text convert -f wikihealth-en-eu.tmx -s en -t eu -p wikihealth
	rm -f wikihealth-en-eu.tmx
	mv wikihealth.en-eu.en ../wikihealth.en-eu.en
	mv wikihealth.en-eu.eu ../wikihealth.en-eu.eu
}

paco() {
	cd raw
	wget -O paco-en-eu.tgz https://hizkuntzateknologiak.elhuyar.eus/assets/files/paco-euen-corpus.tgz
	tar xzf paco-en-eu.tgz
	mv PaCo_EuEn_corpus/PaCo_corpus.en-eu.en ../paco.en-eu.en
	mv PaCo_EuEn_corpus/PaCo_corpus.en-eu.eu ../paco.en-eu.eu
}

rm -R -f raw
mkdir raw
#ccmatrix
#opensubtitles
#xlent
#gnome
#hplt
#ehuhac
kde4
#tatoeba
#wikinews
#wikihealth
#paco