eng-eus/get.sh

#!/usr/bin/env bash

###
### Resources:
### - Helsinki NLP Opus resources (english - basque): https://opus.nlpl.eu/results/en&eu/corpus-result-table

# TODO
# English - Basque Wikinews MT Test Set
# https://live.european-language-grid.eu/catalogue/corpus/19734
# 1788 parallel segments
#

# Not so good quality, take only 20% and filtered ?
# https://community.libretranslate.com/t/ccmatrix-quality-warning/903
ccmatrix() {
	cd raw
	wget -O ccmatrix-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-CCMatrix/v1/tmx/en-eu.tmx.gz
	gzip -d ccmatrix-en-eu.tmx.gz
	tmx-to-text convert -f ccmatrix-en-eu.tmx -s en -t eu -p ccmatrix
	rm -f ccmatrix-en-eu.tmx
	mv ccmatrix.en-eu.en ../
	mv ccmatrix.en-eu.eu ../
	cd ..
}


# 
opensubtitles() {
	cd raw
	wget -O opensubtitles-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-OpenSubtitles/v2018/tmx/en-eu.tmx.gz
	gzip -d opensubtitles-en-eu.tmx.gz
	tmx-to-text convert -f opensubtitles-en-eu.tmx -s en -t eu -p opensubtitles
	rm -f opensubtitles-en-eu.tmx
	mv opensubtitles.en-eu.en ../
	mv opensubtitles.en-eu.eu ../
}

xlent() {
	cd raw
	wget -O xlent-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-XLEnt/v1.2/tmx/en-eu.tmx.gz
	gzip -d xlent-en-eu.tmx.gz
	tmx-to-text convert -f xlent-en-eu.tmx -s en -t eu -p xlent
	rm -f xlent-en-eu.tmx
	mv xlent.en-eu.en ../
	mv xlent.en-eu.eu ../
}

gnome() {
	cd raw
	wget -O gnome-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-GNOME/v1/tmx/en-eu.tmx.gz
	gzip -d gnome-en-eu.tmx.gz
	tmx-to-text convert -f gnome-en-eu.tmx -s en -t eu -p gnome
	rm -f gnome-en-eu.tmx
	mv gnome.en-eu.en ../
	mv gnome.en-eu.eu ../
}

hplt() {
	cd raw
	wget -O hplt-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-HPLT/v1.1/tmx/en-eu.tmx.gz
	gzip -d hplt-en-eu.tmx.gz
	tmx-to-text convert -f hplt-en-eu.tmx -s en -t eu -p hplt
	rm -f hplt-en-eu.tmx
	mv hplt.en-eu.en ../
	mv hplt.en-eu.eu ../
}

ehuhac() {
	cd raw
	wget -O ehuhac-en-eu.gmx.gz https://object.pouta.csc.fi/OPUS-EhuHac/v1/tmx/en-eu.tmx.gz
	gzip -d ehuhac-en-eu.gmx.gz
	tmx-to-text convert -f ehuhac-en-eu.gmx -s en -t eu -p ehuhac
	rm -f ehuhac-en-eu.gmx
	mv ehuhac.en-eu.en ../
	mv ehuhac.en-eu.eu ../
}

kde4() {
	cd raw
	wget -O kde4-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-KDE4/v2/tmx/en-eu.tmx.gz
	gzip -d kde4-en-eu.tmx.gz
	tmx-to-text convert -f kde4-en-eu.tmx -s en -t eu -p kde4
	rm -f kde4-en-eu.tmx
	mv kde4.en-eu.en ../
	mv kde4.en-eu.eu ../
}

tatoeba() {
	cd raw
	wget -O tatoeba-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-Tatoeba/v2023-04-12/tmx/en-eu.tmx.gz
	gzip -d tatoeba-en-eu.tmx.gz
	tmx-to-text convert -f tatoeba-en-eu.tmx -s en -t eu -p tatoeba
	rm -f tatoeba-en-eu.tmx
	mv tatoeba.en-eu.en ../tatoeba.en-eu.en
	mv tatoeba.en-eu.eu ../tatoeba.en-eu.eu
}

wikinews() {
	cd raw
	wget -O wikinews-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-ELRC-4993-Basque_Wikinews_MT/v1/tmx/en-eu.tmx.gz
	gzip -d wikinews-en-eu.tmx.gz
	tmx-to-text convert -f wikinews-en-eu.tmx -s en -t eu -p wikinews
	rm -f wikinews-en-eu.tmx
	mv wikinews.en-eu.en ../wikinews.en-eu.en
	mv wikinews.en-eu.eu ../wikinews.en-eu.eu
}

wikihealth() {
	cd raw
	wget -O wikihealth-en-eu.tmx.gz https://object.pouta.csc.fi/OPUS-ELRC-3042-wikipedia_health/v1/tmx/en-eu.tmx.gz
	gzip -d wikihealth-en-eu.tmx.gz
	tmx-to-text convert -f wikihealth-en-eu.tmx -s en -t eu -p wikihealth
	rm -f wikihealth-en-eu.tmx
	mv wikihealth.en-eu.en ../wikihealth.en-eu.en
	mv wikihealth.en-eu.eu ../wikihealth.en-eu.eu
}

paco() {
	cd raw
	wget -O paco-en-eu.tgz https://hizkuntzateknologiak.elhuyar.eus/assets/files/paco-euen-corpus.tgz
	tar xzf paco-en-eu.tgz
	mv PaCo_EuEn_corpus/PaCo_corpus.en-eu.en ../paco.en-eu.en
	mv PaCo_EuEn_corpus/PaCo_corpus.en-eu.eu ../paco.en-eu.eu
}

rm -R -f raw
mkdir raw
#ccmatrix
#opensubtitles
#xlent
#gnome
#hplt
#ehuhac
kde4
#tatoeba
#wikinews
#wikihealth
#paco