Datasets:
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
Error code: ExternalFilesSizeRequestTimeoutError Exception: ReadTimeout Message: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0) Traceback: Traceback (most recent call last): File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 466, in _make_request six.raise_from(e, None) File "<string>", line 3, in raise_from File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 461, in _make_request httplib_response = conn.getresponse() File "/usr/local/lib/python3.9/http/client.py", line 1377, in getresponse response.begin() File "/usr/local/lib/python3.9/http/client.py", line 320, in begin version, status, reason = self._read_status() File "/usr/local/lib/python3.9/http/client.py", line 281, in _read_status line = str(self.fp.readline(_MAXLINE + 1), "iso-8859-1") File "/usr/local/lib/python3.9/socket.py", line 704, in readinto return self._sock.recv_into(b) File "/usr/local/lib/python3.9/ssl.py", line 1242, in recv_into return self.read(nbytes, buffer) File "/usr/local/lib/python3.9/ssl.py", line 1100, in read return self._sslobj.read(len, buffer) socket.timeout: The read operation timed out During handling of the above exception, another exception occurred: Traceback (most recent call last): File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/adapters.py", line 486, in send resp = conn.urlopen( File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 798, in urlopen retries = retries.increment( File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/util/retry.py", line 550, in increment raise six.reraise(type(error), error, _stacktrace) File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/packages/six.py", line 770, in reraise raise value File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 714, in urlopen httplib_response = self._make_request( File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 468, in _make_request self._raise_timeout(err=e, url=url, timeout_value=read_timeout) File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 357, in _raise_timeout raise ReadTimeoutError( urllib3.exceptions.ReadTimeoutError: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0) During handling of the above exception, another exception occurred: Traceback (most recent call last): File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 488, in _is_too_big_from_external_data_files for i, size in enumerate(pool.imap_unordered(get_size, ext_data_files)): File "/usr/local/lib/python3.9/multiprocessing/pool.py", line 870, in next raise value File "/usr/local/lib/python3.9/multiprocessing/pool.py", line 125, in worker result = (True, func(*args, **kwds)) File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 386, in _request_size response = http_head(url, headers=headers, max_retries=3) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/utils/file_utils.py", line 429, in http_head response = _request_with_retry( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/utils/file_utils.py", line 328, in _request_with_retry response = requests.request(method=method.upper(), url=url, timeout=timeout, **params) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/api.py", line 59, in request return session.request(method=method, url=url, **kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 589, in request resp = self.send(prep, **send_kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 703, in send r = adapter.send(request, **kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/adapters.py", line 532, in send raise ReadTimeout(e, request=request) requests.exceptions.ReadTimeout: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0)
Need help to make the dataset viewer work? Open a discussion for direct support.
gem_id
string | goeswith
string | fold
int32 | text1
string | text2
string | target
string | references
list | label
string | binary_label
string | is_rewrite
bool |
---|---|---|---|---|---|---|---|---|---|
gem-turku_paraphrase_corpus-train-0 | news-77f8263537f9e12 | 0 | Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi mahdollisen rikoksen uhriksi joutumisesta. | Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi. | 4s | [] | 4s | positive | false |
gem-turku_paraphrase_corpus-train-1 | news-77f8263537f9e12 | 0 | Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi rikoksen uhriksi joutumisesta. | Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-2 | s24-t690 | 0 | jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle. | Sen syödessä kupista tai luuta, olen tiputtanut kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä puolustaa ruokaansa. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-3 | s24-t690 | 0 | jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle. | Sen syödessä kupista tai luuta, olemme tiputtaneet kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä murist meidän lähestyessä. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-4 | episode-12146 | 0 | Miksi en ole lainkaan yllättynyt? | En ylläty vähääkään. | 4<i | [] | 4<i | positive | false |
gem-turku_paraphrase_corpus-train-5 | episode-05041 | 0 | Tiimillemme oli tärkeää, Ellen, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia. | Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-6 | episode-05041 | 0 | Tiimillemme oli tärkeää varmistaa, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia. | Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-7 | episode-08670 | 0 | Hän oli väsynyt, eikä voinut tietää kuinka julma oli. | Hän oli uupunut, eikä voinut tietää, miten julmaa se oli. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-8 | episode-1821 | 0 | No niin alkuasukkaat! Kuunnelkaa! | Kuunnelkaa, senkin alkukantaiset idiootit. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-9 | episode-04937 | 0 | Annan alibin. | Annan sinulle peitetarinan. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-10 | episode-04937 | 0 | Luon alibin sinulle. | Annan sinulle peitetarinan. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-11 | episode-10822 | 0 | Voiko Lauren nukuttaa minut? | Voiko Lauren laittaa minut nukkumaan? | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-12 | episode-05041 | 0 | Liekit päälle! | Roihu päälle! | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-13 | episode-05041 | 0 | Olen ollut tämän ajan sinulle vihainen kunnian viemisestä. | Olen ollut vihainen sinulle, koska yritit ottaa kaiken kunnian, Jimmy. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-14 | episode-05041 | 0 | Olen ollut sinulle vihainen kunnian viemisen yrittämisestä. | Olen ollut vihainen sinulle, koska yritit ottaa kunnian. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-15 | episode-02243 | 0 | Mitä merkitystä sillä on? | Mitä väliä sillä edes on? | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-16 | episode-3833 | 0 | Ostin juuri luotolla. | Käytin juuri MasterCardiani. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-17 | episode-3833 | 0 | Ostin juuri luotolla. | Käytin juuri luottokorttiani. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-18 | episode-3833 | 0 | Etkö muka tunne näitä ihmisiä? Olet samaa perhettä. | Et tiennyt keitä nämä ihmiset ovat? Sinä avioiduit heihin. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-19 | episode-3833 | 0 | Etkö muka tunne näitä ihmisiä? Olet samaa perhettä. | Et tiennyt keitä nämä ihmiset ovat vaikka kuulut samaan perheeseen? | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-20 | episode-26648 | 0 | Sota on rankkaa, haju-poika. | Sota on helvettiä, haisuli. | 4>s | [] | 4>s | positive | false |
gem-turku_paraphrase_corpus-train-21 | episode-19979 | 0 | Isäni on putkimies, tekee töitä hullun lailla. | Isäni on putkimies, tekee niska limassa töitä. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-22 | episode-03358 | 0 | Vakoojani saivat tietää narnien tehtävästä Epsilon-järjestelmään. | Saimme tietää narnien retkikunnasta. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-23 | episode-12043 | 0 | Annan anteeksi rakkautesi Julianiin. | Annan anteeksi, että rakastit häntä. | 4>i | [] | 4>i | positive | false |
gem-turku_paraphrase_corpus-train-24 | episode-04271 | 0 | Raivotauti ei näy verikokeessa. | Raivotautisuus ei näy verikokeissa. | 4i | [] | 4i | positive | false |
gem-turku_paraphrase_corpus-train-25 | episode-04271 | 0 | Raivotauti ei näy verikokeessa. | Raivotautisuus ei näy verikokeessa. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-26 | episode-07416 | 0 | En usko, että hänellä jää töiltään aikaa. | Ei, en usko, että hänellä on oikein aikaa | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-27 | episode-12043 | 0 | Minulle on kehittynyt tunteita ihmistä kohtaan, jolla on surkea maku, mutta jota en saa mielestäni. | Minulle on kehittynyt tunteita erästä naista kohtaan, jolla on erittäin huono maku. Silti en saa häntä mielestäni. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-28 | episode-12146 | 0 | NASAlla on tarkat säännöt liittyen likinäköisyyteen. Ja pilven polttamiseen. | NASA ei ota likinäköisiä. Eikä pilviveikkoja. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-29 | episode-12043 | 0 | Vaikuttaa todella pahalta tripiltä. | Sinulla taitaa olla huono trippi. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-30 | episode-04271 | 0 | Ei mitään hätää, rouva Espinoza. Olemme täällä auttamassa. | Teidän ei tarvitse huolehtia, rouva Espinoza. Olemme täällä auttaaksemme teitä. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-31 | episode-19979 | 0 | Se oli ensimmäinen tähtirooliini. | Se oli ensimmäinen roolini. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-32 | episode-10822 | 0 | Dale, paljonko maksan sinulle? | Dale, paljonkos maksankaan tästä? | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-33 | episode-26648 | 0 | Parin vuoden kuluttua he aloittavat bändissä, kasvattavat pitkän tukan, varastavat Suburbanisi mennäkseen kiertueelle. | Pian he perustavat bändin kasvattavat hiuksensa ja vievät auton lähteäkseen keikalle. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-34 | episode-09215 | 0 | Tiesitte joidenkin miesten kiusanneen Lucya, koska hän nosti syytteen. | Tiesit, että jotkut miehet kiusasivat Lucya ilmoituksen vuoksi. | 4>i | [] | 4>i | positive | false |
gem-turku_paraphrase_corpus-train-35 | episode-10822 | 0 | Heitetään pihalle omasta teltasta... | Lennän ulos omasta teltasta. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-36 | episode-12121 | 0 | Mennään jaloittelemaan. | Verrytellään vähän jalkoja. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-37 | episode-04271 | 0 | Meidän pitäisi hakea hänen isänsä alakertaan. | Hänen isänsä pitäisi tuoda tänne! | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-38 | episode-09215 | 0 | Mutta sinä aamuna Lucy sanoi minun mokanneen, että olin ottanut liian vähän ja Lucy oli väärässä. | Sinä aamuna Lucy väitti, että olin unohtanut ottaa yhden, vaikka en ollut. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-39 | episode-07416 | 0 | Seksuaalirikokset ovat harvassa. | Täällä ei juuri ole seksirikoksia | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-40 | episode-10822 | 0 | Montako kertaa olen sanonut, että et syötä hänelle sokeria! | Kuinka monta kertaa olen sanonut, ettet pumppaisi häntä täyteen sokeria. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-41 | episode-03358 | 0 | Jos minbarit haluavat viimeistellä meidät, antaa heidän tulla luoksemme. | Tulkoot lähemmäs jos haluavat listiä meidät. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-42 | episode-09215 | 0 | Pelastusyksikkö, vastatkaa tilanteeseen heti. | Kaikki ensiapuhenkilöt paikalle välittömästi. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-43 | episode-12121 | 0 | Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi. | He laittavat itsensä likoon saamatta mitään vastineeksi. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-44 | episode-12121 | 0 | Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi. | He laittavat itsensä likoon kaupungista toiseen saamatta lähes mitään vastineeksi. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-45 | episode-08670 | 0 | Minulle lobotomia on ontelon täyttöön verrattavaa rutiinia. | Minun käsissäni transorbitaalista lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-46 | episode-08670 | 0 | Minulle lobotomia on hampaan paikkaamiseen verrattavaa rutiinia. | Minun käsissäni lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-47 | episode-08670 | 0 | Luotan vaistooni. Vaisto kertoo kaiken. | Minä luotan vaistoihini. Vaistot ovat kaikki. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-48 | episode-03358 | 0 | Tiedän. Se oli välttämätöntä. | Tiedän, oli pakko. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-49 | episode-19979 | 0 | Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä? | Huomenna kello 20. Tapaan sinut siellä. Selvä? | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-50 | episode-19979 | 0 | Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä? | Se on huomenna kello 20. Tapaamme siellä. Selvä? | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-51 | episode-46322 | 0 | Työskentelin eräälle jahtejen valmistajalle mantereella, mutta ei kestänyt kauan minulta tajuta En halua viettää lopun elämääni toisten unelmien totettamisella. | Työskentelin huvipursien valmistajalle mantereella, mutta tajusin nopeasti, etten halunnut viettää loppuelämääni toisten unelmien toteuttamiseen. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-52 | episode-26648 | 0 | Senkö takia heitit maalipommin päin omaa leirikaveriasi? | Siksikö heitit värikranaatin omaa leiriläistäsi kohtaan? | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-53 | episode-11837 | 0 | Kiitos pelastuksesta. | Kiitos kun tulit hakemaan minut. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-54 | episode-03358 | 0 | Hän voi vahvistaa heidän olevan minbareja ja voi olla avuksi, jos asiat menevät huonosti. | Hän varmistaa, että edustajat ovat minbareja ja auttaa hätätilanteessa. | 4<s | [] | 4<s | positive | false |
gem-turku_paraphrase_corpus-train-55 | episode-08670 | 0 | Hän on suloinen pikku poika, mutta hänellä on koliikki. Hän itkee 5-6 kertaa yössä. | Hän on suloinen pieni poika, mutta hänellä on koliikki. Hän itkee viisi, kuusi kertaa yössä. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-56 | episode-09215 | 0 | Jokin tässä jutussa mättää. Mikä niin? | Jokin tässä mättää. Mikä? | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-57 | episode-03143 | 0 | Te maalaiset palvotte julkkiksia sellaisella kiihkeydellä että voin elää yksinkertaisesti lypsämällä ihailuanne. | Te palvotte julkisuutta niin hurmoksessa, että voin elää lypsämällä ihailuanne. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-58 | episode-03727 | 0 | Kun kirous on peruttu, olen kuin muutkin. | Kun kirous purkautuu, minusta tulee normaali. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-59 | episode-12043 | 0 | Tilanne on riistäytynyt käsistä. | Mopo on lähtenyt käsistä. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-60 | episode-08670 | 0 | Maksanko teille tästä? Ei, ei. En tee tätä rahan takia. Kyse on kutsumuksesta. | Maksanko teille tästä? Ei, ei. En tee tätä rahasta. Se on enemmänkin kutsumus. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-61 | episode-04271 | 0 | Hei, mitä tapahtuu? Miksi emme voi lähteä? | Mitä on meneillään? Miksemme voi lähteä? | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-62 | episode-99701 | 0 | Miksi menit ja pilasit sen? | Miksi sinun piti pilata se? | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-63 | episode-99701 | 0 | Voinko heittää pois sinun laihdutussafkasi? | Voinko heittää nämä pupun ruuat pois? | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-64 | episode-99701 | 0 | Voinko heittää pois sinun laihdutussafkasi? | Voinko heittää sinun laihdutukseen käyttämät pupun ruuat pois? | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-65 | episode-03358 | 0 | Toimme ihmiset luoksenne, mikäli haluatte kuulustella heitä ennen teloitusta. | Toimme ihmiset kuulusteltaviksi ennen teloitustaan. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-66 | episode-10822 | 0 | En treffaile enää. | Ei treffejä minulle. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-67 | episode-12121 | 0 | Hän teki väärän valinnan. | Hän teki huonon päätöksen. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-68 | episode-03143 | 0 | Tuijota tätä kuvaa itsestäsi | Katso kuvaasi | 4>s | [] | 4>s | positive | false |
gem-turku_paraphrase_corpus-train-69 | episode-09215 | 0 | Nähdään vajaan tunnin päästä. Tule ajoissa. | Nähdään tunnin sisällä. Älä myöhästy. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-70 | s24-t2682 | 0 | kuinkas kävikään kaikista varoituksista huolimatta. Romutettiin hyvä linjavaalisysteemi , henkilökuntakuljetukset lopetettiin ja monta muuta. | Linjavaalit ja henkilökuntakuljetukset ym lakkautettiin säästöihin vedoten sekä monta muutakin ja kuinkas kävikään. | 2 | [] | 2 | negative | false |
gem-turku_paraphrase_corpus-train-71 | episode-46322 | 0 | Mitä oikein hommaat? | Mitä sinä teet? | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-72 | not available | 0 | Puolustusvoimien nimissä on lähetetty huijausviestejä, joissa kehotetaan saapumaan palvelukseen Lähi-idän tilanteen vuoksi | Puolustusvoimien nimissä on lähetetty huijausviestejä | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-73 | episode-12121 | 0 | Demonien on pidettävä huolta itsestään. | Jokainen demoni pelastakoon itsensä. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-74 | episode-99701 | 0 | Ei onnaa mutsi. | Ei voi mitään, äiti. | 4s | [] | 4s | positive | false |
gem-turku_paraphrase_corpus-train-75 | episode-02243 | 0 | Olemme saavuttaneet hienon voiton. | Saavutimme tänään suuren voiton, vanha ystävä. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-76 | episode-09215 | 0 | Se tunnollinen typerys. | Se tarkkasilmäinen tollo. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-77 | s24-t4618 | 0 | Haluaisin opiskella puutarhuriksi oppisopimuksella. | Itse olisin kiinnostunut, mutta puutarha-ala ei taida olla hirveän kovassa huudossa täällä päin... | 2 | [] | 2 | negative | false |
gem-turku_paraphrase_corpus-train-78 | s24-t4618 | 0 | Haluaisin opiskella puutarhuriksi oppisopimuksella. Mutta en usko, että kysyntää on täällä puutarha-alalla kovinkaan paljon... | Itse olisin kiinnostunut oppisopimuksesta opiskella puutarhuriksi, mutta puutarha-ala ei taida olla hirveän kovassa huudossa täällä päin... | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-79 | s24-t2465 | 0 | Sekä perhettä luodessa muokattava sim seisoo takana takaseinän vieressä ja pyörittäessä ympäri menee kuva sen rakennuksen ulkopuolelle?? | tai perhettä luodessa sim seisoo muutamia askelia liian takana, aivan perä seinässä kiinni ja yrittäessä kääntää sitä, menee kuva kokonaan rakennuksen ulkopuolelle | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-80 | news-001860045b0b01b | 0 | mikäli maan pääministeriksi nousee todennäköisin vaihtoehto eli Boris Johnson | jos Boris Johnsonista tulee pääministeri | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-81 | news-001860045b0b01b | 0 | mikäli maan pääministeriksi nousee Boris Johnson | jos Boris Johnsonista tulee pääministeri | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-82 | s24-t342 | 0 | Kaikkein heikoimmassa asemassa olevia teurastetaan taas urakalla. | Kaikkein heikoimmassa asemassa olevien ihmisten teurastus jatkuu. | 4s | [] | 4s | positive | false |
gem-turku_paraphrase_corpus-train-83 | s24-t1777 | 0 | Itse olen 24vuotias Jyväskyläläis neitokainen joka taistelee reilun 10kg painonpudotusurakan kanssa. | Itse olen 24vuotias tyttönen Jyväskylästä. Laihdutettavaa olisi n.10kg. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-84 | s24-t1777 | 0 | Itse olen 24vuotias Jyväskyläläis neitokainen joka taistelee noin 10kg painonpudotusurakan kanssa. | Itse olen 24vuotias tyttönen Jyväskylästä. Laihdutettavaa olisi n.10kg. | 4 | [] | 4 | positive | true |
gem-turku_paraphrase_corpus-train-85 | episode-10626 | 0 | Et näe halluja kuten asemalla. | Et näe näkyjä. | 4>s | [] | 4>s | positive | false |
gem-turku_paraphrase_corpus-train-86 | episode-26648 | 0 | Koska yrityksellä ei ole asiakkaita eikä näin ollen havaittavissa tulojakaan pankilla ei ole muuta vaihtoehtoa kuin pakkolunastaa omaisuus. | Koska asiakkaita ei ole eikä siten näkyviä tuloja pankin ei auta muu kuin ulosmitata kiinteistö. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-87 | episode-19979 | 0 | Hullua. Ihmiset vain antavat minulle tavaraa, autoja ja vaatteita. Kaikki tavara autossani. Kaikki Reebookin kama. Ilmaista. | Se on hullua. Ihmiset vain antavat minulle tavaraa. Autoja, vaatteita. Kaikki ne Reebokit autossani? Ilmaistavaraa. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-88 | episode-03358 | 0 | Osa heidän hallituksestaan haluaa tapaamisen, jossa etsitään tapaa lopettaa sota, johon ei sisälly Maan tuhoutuminen. | Jotkut heistä tahtovat kuulemma irti sodasta ilman että Maa tuhotaan. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-89 | episode-46322 | 0 | Kun olette täällä, haluatteko käydä yö sukeltamassa? | Haluaisitteko täällä ollessanne tehdä yösukellusta? | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-90 | episode-03358 | 0 | Kiitos kun väittelit kanssani. | Hyvä että pistitte minulle hanttiin. | 4>i | [] | 4>i | positive | false |
gem-turku_paraphrase_corpus-train-91 | episode-09215 | 0 | Väärensitte reseptejä ja möitte lääkkeitä pimeästi käteistä vastaan. | Kirjoitit valereseptejä ja myit lääkkeet pimeästi. | 4>i | [] | 4>i | positive | false |
gem-turku_paraphrase_corpus-train-92 | episode-03727 | 0 | Soitat pianoa, panen pääni pantiksi siitä. | Soitat pianoa. Lyön vaikka vetoa siitä. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-93 | episode-3833 | 0 | Älä pilaa tätä 20 minuutin takia, Valerie. | Älä anna 20 minuuttia olla esteenä sille, mitä yritän tehdä. | 3 | [] | 3 | positive | false |
gem-turku_paraphrase_corpus-train-94 | episode-10822 | 0 | Siellä voi olla tappavia gorilloja. | Tuolla voi olla verenhimoisia gorilloja. | 4i | [] | 4i | positive | false |
gem-turku_paraphrase_corpus-train-95 | episode-10822 | 0 | Pidä hauskaa lomallani. | Toivottavasti lomallani on hauskaa. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-96 | episode-12121 | 0 | Kippis. | Pohjanmaan kautta. | 4 | [] | 4 | positive | false |
gem-turku_paraphrase_corpus-train-97 | episode-12121 | 0 | En olisi voinut järjestää tätä kaikkea ilman ihanaa, lahjakasta Simmonsia. | Ihana, lahjakas Simmons oli tietysti korvaamaton apu. | 4> | [] | 4> | positive | false |
gem-turku_paraphrase_corpus-train-98 | episode-19979 | 0 | Kosto kuuluu tarjoilla kylmänä. | Kosto on lajike, joka kuuluu tarjoilla kylmänä, ystäväiseni. | 4< | [] | 4< | positive | false |
gem-turku_paraphrase_corpus-train-99 | episode-12146 | 0 | Aaltoratsastajalle jäänyt miehistö on luultavasti jo kuollut, ja kuka tietää, mitä professori Steinille tapahtui. | Ystävämme lienevät kuolleet ja ties missä Stein on. | 3 | [] | 3 | positive | false |
Dataset Card for GEM/turku_paraphrase_corpus
Link to Main Data Card
You can find the main data card on the GEM Website.
Dataset Summary
This is a Finnish paraphrase corpus which consists of pairs of text passages, where a typical passage is about a sentence long. It can be used to either identify or generate paraphrases.
You can load the dataset via:
import datasets
data = datasets.load_dataset('GEM/turku_paraphrase_corpus')
The data loader can be found here.
website
paper
authors
Jenna Kanerva, Filip Ginter, Li-Hsin Chang, Iiro Rastas, Valtteri Skantsi, Jemina Kilpeläinen, Hanna-Mari Kupari, Aurora Piirto, Jenna Saarni, Maija Sevón, Otto Tarkka (TurkuNLP / University of Turku)
Dataset Overview
Where to find the Data and its Documentation
Webpage
Download
Paper
BibTex
@inproceedings{kanerva-etal-2021-finnish,
title = {Finnish Paraphrase Corpus},
author = {Kanerva, Jenna and Ginter, Filip and Chang, Li-Hsin and Rastas, Iiro and Skantsi, Valtteri and Kilpel{\"a}inen, Jemina and Kupari, Hanna-Mari and Saarni, Jenna and Sev{\'o}n, Maija and Tarkka, Otto},
booktitle = {Proceedings of the 23rd Nordic Conference on Computational Linguistics (NoDaLiDa'21)},
year = {2021},
publisher = {Link{\"o}ping University Electronic Press, Sweden},
url = {https://aclanthology.org/2021.nodalida-main.29},
pages = {288--298}
}
Contact Name
Jenna Kanerva, Filip Ginter
Contact Email
Has a Leaderboard?
no
Languages and Intended Use
Multilingual?
no
Covered Dialects
written standard language, spoken language
Covered Languages
Finnish
License
cc-by-sa-4.0: Creative Commons Attribution Share Alike 4.0 International
Intended Use
Paraphrase classification, paraphrase generation
Primary Task
Paraphrasing
Communicative Goal
The corpus provides naturally occurring Finnish paraphrases striving for low lexical overlap, thus supporting many different downstream applications requiring language understanding.
Credit
Curation Organization Type(s)
academic
Curation Organization(s)
University of Turku
Dataset Creators
Jenna Kanerva, Filip Ginter, Li-Hsin Chang, Iiro Rastas, Valtteri Skantsi, Jemina Kilpeläinen, Hanna-Mari Kupari, Aurora Piirto, Jenna Saarni, Maija Sevón, Otto Tarkka (TurkuNLP / University of Turku)
Funding
The Turku paraphrase corpus project was funded by the Academy of Finland, as well as the European Language Grid project through its open call for pilot projects. The European Language Grid project has received funding from the European Union’s Horizon 2020 Research and Innovation programme under Grant Agreement no. 825627 (ELG).
Who added the Dataset to GEM?
Jenna Kanerva, Filip Ginter (TurkuNLP / University of Turku)
Dataset Structure
Data Fields
The dataset consist of pairs of text passages, where a typical passage is about a sentence long, however, a passage may also be longer or shorter than a sentence. Thus, each example include two text passages (string), a manually annotated label to indicate the paraphrase type (string), and additional metadata.
The dataset include three different modes
, plain, classification, and generation. The plain
mode loads the original data without any additional preprocessing or transformations, while the classification
mode directly builds the data in a form suitable for training a paraphrase classifier, where each example is doubled in the data with different directions (text1, text2, label) --> (text2, text1, label) taking care of the label flipping as well if needed (paraphrases with directionality flag < or >). In the generation
mode, the examples are preprocessed to be directly suitable for paraphrase generation task. In here, paraphrases not suitable for generation are discarded (negative, and highly context-dependent paraphrases), and directional paraphrases are provided so that the generation goes from more detailed passage to the more general one in order to prevent model hallucination (i.e. model learning to introduce new information). The rest of the paraphrases are provided in both directions (text1, text2, label) --> (text2, text1, label).
Each pair in plain
and classification
mode will include fields:
gem_id
: Identifier of the paraphrase pair (string)
goeswith
: Identifier of the document from which the paraphrase was extracted, can be not available
in case the source of the paraphrase is not from document-structured data (string)
fold
: 0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold (int)
text1
: First paraphrase passage (string)
text2
: Second paraphrase passage (string)
label
: Manually annotated labels (string)
binary_label
: Label turned into binary with values positive
(paraphrase) and negative
(not-paraphrase) (string)
is_rewrite
: Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)
Each pair in generation
mode will include the same fields expect text1
and text2
are renamed to input
and output
in order to indicate the generation direction. Thus the fields are:
gem_id
: Identifier of the paraphrase pair (string)
goeswith
: Identifier of the document from which the paraphrase was extracted, can be not available
in case the source of the paraphrase is not from document-structured data (string)
fold
: 0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold (int)
input
: The input paraphrase passage for generation (string)
output
: The output paraphrase passage for generation (string)
label
: Manually annotated labels (string)
binary_label
: Label turned into binary with values positive
(paraphrase) and negative
(not-paraphrase) (string)
is_rewrite
: Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)
Example Instance
{
'gem_id': 'gem-turku_paraphrase_corpus-train-15',
'goeswith': 'episode-02243',
'fold': 0,
'text1': 'Mitä merkitystä sillä on?',
'text2': 'Mitä väliä sillä edes on?',
'label': '4',
'binary_label': 'positive',
'is_rewrite': False
}
Data Splits
The corpus include 3 splits: train, validation, and test.
Splitting Criteria
The data is split randomly into the three section with a restriction of all paraphrases from the same document (movie, TV episode, news article, student translation, or exam question) being in the same section. All splits are manually annotated.
Dataset in GEM
Rationale for Inclusion in GEM
Why is the Dataset in GEM?
This dataset provides a large amount of high quality (manually collected and verified) paraphrases for Finnish.
Similar Datasets
yes
Unique Language Coverage
no
Ability that the Dataset measures
natural language understanding, language variation
GEM-Specific Curation
Modificatied for GEM?
yes
GEM Modifications
data points modified
Modification Details
Data structure is slightly simplified, and the release provides ready made transformations into two tasks (paraphrase classification and generation), where some data instances are doubled with different direction, and some are discarded as not being suitable for generation (e.g. negatives).
Additional Splits?
no
Getting Started with the Task
Previous Results
Previous Results
Measured Model Abilities
natural language understanding, language variation
Previous results available?
yes
Other Evaluation Approaches
F-score in paraphrase classification
Dataset Curation
Original Curation
Original Curation Rationale
The dataset is fully manually annotated. The dataset strives for interesting paraphrases with low lexical overlap, thus the annotation is two fold. First the paraphrases are manually extracted from two related documents, where the annotators are instructed to extract only interesting paraphrases. In the second phrase, all extracted paraphrases are manually labeled given the annotation scheme.
The annotation scheme is: 4 : paraphrase in all reasonably possible contexts 3 : paraphrase in the given document contexts, but not in general 2 : related but not paraphrase During annotation also labels 1 (unrelated) and x (skip, e.g. wrong language) were used, however, the insignificant amount of examples annotated with these labels were discarded from the released corpus.
The following flags are annotated to label 4 paraphrases: < : txt1 is more general than txt2; txt2 is more specific than txt1 (directional paraphrase where txt2 can be replaced with txt1 in all contexts but not to the other direction)
: txt2 is more general than txt1; txt1 is more specific than txt2 (directional paraphrase where txt1 can be replaced with txt2 in all contexts but not to the other direction) i : minor traceable difference (differing in terms of grammatical number or case, 'this' vs 'that', etc.) s : style or strength difference (e.g. equivalent meaning, but one of the statements substantially more colloquial than the other)
For paraphrases where the annotated label was something else than label 4 without any flags, the annotators had an option to rewrite the text passages so that the rewritten paraphrase pair formed label 4 (universal) paraphrase. This was used for cases where simple edit would turn e.g. contextual or directional paraphrase into universal one. For the rewritten examples, both the original and the rewritten pairs are available with corresponding labels annotated.
Communicative Goal
Representing text passages with identical meaning but different surface realization.
Sourced from Different Sources
yes
Source Details
movie and TV series subtitles (82%) news articles (9%) discussion forum messages (8%) university translation exercises (1%) university course essays and exams (<1%)
Language Data
How was Language Data Obtained?
Found
, Other
Where was it found?
Multiple websites
, Offline media collection
, Other
Language Producers
The movie and TV series subtitles are extracted from OPUS OpenSubtitles2018 collection, which is based on data from OpenSubtitles. The news articles are collected from two Finnish news sites, YLE and HS, during years 2017-2020. Discussion forum messages are obtained from the Finnish Suomi24 discussion forum released for academic use (http://urn.fi/urn:nbn:fi:lb-2020021801). University translation exercises, essays and exams are collected during the project.
Data Validation
validated by data curator
Was Data Filtered?
not filtered
Structured Annotations
Additional Annotations?
expert created
Number of Raters
2<n<10
Rater Qualifications
Members of the TurkuNLP research group, native speakers of Finnish, each annotator has a strong background in language studies by having an academic degree or ongoing studies in a field related to languages or linguistics.
Raters per Training Example
1
Raters per Test Example
1
Annotation Service?
no
Annotation Values
- Manual extraction of interesting paraphrases from two related documents.
- Manual labeling of each extracted paraphrase based on the given annotation scheme, e.g. distinguishing contextual and universal paraphrases, marking style or strength differences, etc.
Any Quality Control?
validated by another rater
Quality Control Details
Partial double annotation, double annotation batches are assigned regularly in order to monitor annotation consistency. In double annotation, one annotator first extracts the candidate paraphrases, and these candidates are assigned to two different annotators, who does the label annotation independently from each other. Afterwards, the label annotations are merged, and conflicting labels are resolved together with the whole annotation team.
Consent
Any Consent Policy?
yes
Consent Policy Details
The corpus is mostly based on public/open data. For other data sources (student material), the licensing was agreed with the data providers during the collection.
Private Identifying Information (PII)
Contains PII?
likely
Categories of PII
generic PII
Any PII Identification?
no identification
Maintenance
Any Maintenance Plan?
no
Broader Social Context
Previous Work on the Social Impact of the Dataset
Usage of Models based on the Data
no
Impact on Under-Served Communities
Addresses needs of underserved Communities?
no
Discussion of Biases
Any Documented Social Biases?
no
Considerations for Using the Data
PII Risks and Liability
Potential PII Risk
None
Licenses
Copyright Restrictions on the Dataset
open license - commercial use allowed
Copyright Restrictions on the Language Data
open license - commercial use allowed
Known Technical Limitations
- Downloads last month
- 418