Dataset Preview
Viewer
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
Couldn't get the size of external files in `_split_generators` because a request failed: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0) Please consider moving your data files in this dataset repository instead (e.g. inside a data/ folder).
Error code:   ExternalFilesSizeRequestTimeoutError
Exception:    ReadTimeout
Message:      HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0)
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 466, in _make_request
                  six.raise_from(e, None)
                File "<string>", line 3, in raise_from
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 461, in _make_request
                  httplib_response = conn.getresponse()
                File "/usr/local/lib/python3.9/http/client.py", line 1377, in getresponse
                  response.begin()
                File "/usr/local/lib/python3.9/http/client.py", line 320, in begin
                  version, status, reason = self._read_status()
                File "/usr/local/lib/python3.9/http/client.py", line 281, in _read_status
                  line = str(self.fp.readline(_MAXLINE + 1), "iso-8859-1")
                File "/usr/local/lib/python3.9/socket.py", line 704, in readinto
                  return self._sock.recv_into(b)
                File "/usr/local/lib/python3.9/ssl.py", line 1242, in recv_into
                  return self.read(nbytes, buffer)
                File "/usr/local/lib/python3.9/ssl.py", line 1100, in read
                  return self._sslobj.read(len, buffer)
              socket.timeout: The read operation timed out
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/adapters.py", line 486, in send
                  resp = conn.urlopen(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 798, in urlopen
                  retries = retries.increment(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/util/retry.py", line 550, in increment
                  raise six.reraise(type(error), error, _stacktrace)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/packages/six.py", line 770, in reraise
                  raise value
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 714, in urlopen
                  httplib_response = self._make_request(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 468, in _make_request
                  self._raise_timeout(err=e, url=url, timeout_value=read_timeout)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 357, in _raise_timeout
                  raise ReadTimeoutError(
              urllib3.exceptions.ReadTimeoutError: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0)
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 488, in _is_too_big_from_external_data_files
                  for i, size in enumerate(pool.imap_unordered(get_size, ext_data_files)):
                File "/usr/local/lib/python3.9/multiprocessing/pool.py", line 870, in next
                  raise value
                File "/usr/local/lib/python3.9/multiprocessing/pool.py", line 125, in worker
                  result = (True, func(*args, **kwds))
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 386, in _request_size
                  response = http_head(url, headers=headers, max_retries=3)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/utils/file_utils.py", line 429, in http_head
                  response = _request_with_retry(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/utils/file_utils.py", line 328, in _request_with_retry
                  response = requests.request(method=method.upper(), url=url, timeout=timeout, **params)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/api.py", line 59, in request
                  return session.request(method=method, url=url, **kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 589, in request
                  resp = self.send(prep, **send_kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 703, in send
                  r = adapter.send(request, **kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/adapters.py", line 532, in send
                  raise ReadTimeout(e, request=request)
              requests.exceptions.ReadTimeout: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0)

Need help to make the dataset viewer work? Open a discussion for direct support.

gem_id
string
goeswith
string
fold
int32
text1
string
text2
string
target
string
references
list
label
string
binary_label
string
is_rewrite
bool
gem-turku_paraphrase_corpus-train-0
news-77f8263537f9e12
0
Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi mahdollisen rikoksen uhriksi joutumisesta.
Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi.
4s
[]
4s
positive
false
gem-turku_paraphrase_corpus-train-1
news-77f8263537f9e12
0
Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi rikoksen uhriksi joutumisesta.
Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-2
s24-t690
0
jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle.
Sen syödessä kupista tai luuta, olen tiputtanut kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä puolustaa ruokaansa.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-3
s24-t690
0
jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle.
Sen syödessä kupista tai luuta, olemme tiputtaneet kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä murist meidän lähestyessä.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-4
episode-12146
0
Miksi en ole lainkaan yllättynyt?
En ylläty vähääkään.
4<i
[]
4<i
positive
false
gem-turku_paraphrase_corpus-train-5
episode-05041
0
Tiimillemme oli tärkeää, Ellen, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia.
Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-6
episode-05041
0
Tiimillemme oli tärkeää varmistaa, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia.
Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-7
episode-08670
0
Hän oli väsynyt, eikä voinut tietää kuinka julma oli.
Hän oli uupunut, eikä voinut tietää, miten julmaa se oli.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-8
episode-1821
0
No niin alkuasukkaat! Kuunnelkaa!
Kuunnelkaa, senkin alkukantaiset idiootit.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-9
episode-04937
0
Annan alibin.
Annan sinulle peitetarinan.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-10
episode-04937
0
Luon alibin sinulle.
Annan sinulle peitetarinan.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-11
episode-10822
0
Voiko Lauren nukuttaa minut?
Voiko Lauren laittaa minut nukkumaan?
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-12
episode-05041
0
Liekit päälle!
Roihu päälle!
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-13
episode-05041
0
Olen ollut tämän ajan sinulle vihainen kunnian viemisestä.
Olen ollut vihainen sinulle, koska yritit ottaa kaiken kunnian, Jimmy.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-14
episode-05041
0
Olen ollut sinulle vihainen kunnian viemisen yrittämisestä.
Olen ollut vihainen sinulle, koska yritit ottaa kunnian.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-15
episode-02243
0
Mitä merkitystä sillä on?
Mitä väliä sillä edes on?
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-16
episode-3833
0
Ostin juuri luotolla.
Käytin juuri MasterCardiani.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-17
episode-3833
0
Ostin juuri luotolla.
Käytin juuri luottokorttiani.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-18
episode-3833
0
Etkö muka tunne näitä ihmisiä? Olet samaa perhettä.
Et tiennyt keitä nämä ihmiset ovat? Sinä avioiduit heihin.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-19
episode-3833
0
Etkö muka tunne näitä ihmisiä? Olet samaa perhettä.
Et tiennyt keitä nämä ihmiset ovat vaikka kuulut samaan perheeseen?
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-20
episode-26648
0
Sota on rankkaa, haju-poika.
Sota on helvettiä, haisuli.
4>s
[]
4>s
positive
false
gem-turku_paraphrase_corpus-train-21
episode-19979
0
Isäni on putkimies, tekee töitä hullun lailla.
Isäni on putkimies, tekee niska limassa töitä.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-22
episode-03358
0
Vakoojani saivat tietää narnien tehtävästä Epsilon-järjestelmään.
Saimme tietää narnien retkikunnasta.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-23
episode-12043
0
Annan anteeksi rakkautesi Julianiin.
Annan anteeksi, että rakastit häntä.
4>i
[]
4>i
positive
false
gem-turku_paraphrase_corpus-train-24
episode-04271
0
Raivotauti ei näy verikokeessa.
Raivotautisuus ei näy verikokeissa.
4i
[]
4i
positive
false
gem-turku_paraphrase_corpus-train-25
episode-04271
0
Raivotauti ei näy verikokeessa.
Raivotautisuus ei näy verikokeessa.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-26
episode-07416
0
En usko, että hänellä jää töiltään aikaa.
Ei, en usko, että hänellä on oikein aikaa
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-27
episode-12043
0
Minulle on kehittynyt tunteita ihmistä kohtaan, jolla on surkea maku, mutta jota en saa mielestäni.
Minulle on kehittynyt tunteita erästä naista kohtaan, jolla on erittäin huono maku. Silti en saa häntä mielestäni.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-28
episode-12146
0
NASAlla on tarkat säännöt liittyen likinäköisyyteen. Ja pilven polttamiseen.
NASA ei ota likinäköisiä. Eikä pilviveikkoja.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-29
episode-12043
0
Vaikuttaa todella pahalta tripiltä.
Sinulla taitaa olla huono trippi.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-30
episode-04271
0
Ei mitään hätää, rouva Espinoza. Olemme täällä auttamassa.
Teidän ei tarvitse huolehtia, rouva Espinoza. Olemme täällä auttaaksemme teitä.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-31
episode-19979
0
Se oli ensimmäinen tähtirooliini.
Se oli ensimmäinen roolini.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-32
episode-10822
0
Dale, paljonko maksan sinulle?
Dale, paljonkos maksankaan tästä?
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-33
episode-26648
0
Parin vuoden kuluttua he aloittavat bändissä, kasvattavat pitkän tukan, varastavat Suburbanisi mennäkseen kiertueelle.
Pian he perustavat bändin kasvattavat hiuksensa ja vievät auton lähteäkseen keikalle.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-34
episode-09215
0
Tiesitte joidenkin miesten kiusanneen Lucya, koska hän nosti syytteen.
Tiesit, että jotkut miehet kiusasivat Lucya ilmoituksen vuoksi.
4>i
[]
4>i
positive
false
gem-turku_paraphrase_corpus-train-35
episode-10822
0
Heitetään pihalle omasta teltasta...
Lennän ulos omasta teltasta.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-36
episode-12121
0
Mennään jaloittelemaan.
Verrytellään vähän jalkoja.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-37
episode-04271
0
Meidän pitäisi hakea hänen isänsä alakertaan.
Hänen isänsä pitäisi tuoda tänne!
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-38
episode-09215
0
Mutta sinä aamuna Lucy sanoi minun mokanneen, että olin ottanut liian vähän ja Lucy oli väärässä.
Sinä aamuna Lucy väitti, että olin unohtanut ottaa yhden, vaikka en ollut.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-39
episode-07416
0
Seksuaalirikokset ovat harvassa.
Täällä ei juuri ole seksirikoksia
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-40
episode-10822
0
Montako kertaa olen sanonut, että et syötä hänelle sokeria!
Kuinka monta kertaa olen sanonut, ettet pumppaisi häntä täyteen sokeria.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-41
episode-03358
0
Jos minbarit haluavat viimeistellä meidät, antaa heidän tulla luoksemme.
Tulkoot lähemmäs jos haluavat listiä meidät.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-42
episode-09215
0
Pelastusyksikkö, vastatkaa tilanteeseen heti.
Kaikki ensiapuhenkilöt paikalle välittömästi.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-43
episode-12121
0
Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi.
He laittavat itsensä likoon saamatta mitään vastineeksi.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-44
episode-12121
0
Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi.
He laittavat itsensä likoon kaupungista toiseen saamatta lähes mitään vastineeksi.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-45
episode-08670
0
Minulle lobotomia on ontelon täyttöön verrattavaa rutiinia.
Minun käsissäni transorbitaalista lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-46
episode-08670
0
Minulle lobotomia on hampaan paikkaamiseen verrattavaa rutiinia.
Minun käsissäni lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-47
episode-08670
0
Luotan vaistooni. Vaisto kertoo kaiken.
Minä luotan vaistoihini. Vaistot ovat kaikki.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-48
episode-03358
0
Tiedän. Se oli välttämätöntä.
Tiedän, oli pakko.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-49
episode-19979
0
Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä?
Huomenna kello 20. Tapaan sinut siellä. Selvä?
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-50
episode-19979
0
Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä?
Se on huomenna kello 20. Tapaamme siellä. Selvä?
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-51
episode-46322
0
Työskentelin eräälle jahtejen valmistajalle mantereella, mutta ei kestänyt kauan minulta tajuta En halua viettää lopun elämääni toisten unelmien totettamisella.
Työskentelin huvipursien valmistajalle mantereella, mutta tajusin nopeasti, etten halunnut viettää loppuelämääni toisten unelmien toteuttamiseen.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-52
episode-26648
0
Senkö takia heitit maalipommin päin omaa leirikaveriasi?
Siksikö heitit värikranaatin omaa leiriläistäsi kohtaan?
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-53
episode-11837
0
Kiitos pelastuksesta.
Kiitos kun tulit hakemaan minut.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-54
episode-03358
0
Hän voi vahvistaa heidän olevan minbareja ja voi olla avuksi, jos asiat menevät huonosti.
Hän varmistaa, että edustajat ovat minbareja ja auttaa hätätilanteessa.
4<s
[]
4<s
positive
false
gem-turku_paraphrase_corpus-train-55
episode-08670
0
Hän on suloinen pikku poika, mutta hänellä on koliikki. Hän itkee 5-6 kertaa yössä.
Hän on suloinen pieni poika, mutta hänellä on koliikki. Hän itkee viisi, kuusi kertaa yössä.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-56
episode-09215
0
Jokin tässä jutussa mättää. Mikä niin?
Jokin tässä mättää. Mikä?
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-57
episode-03143
0
Te maalaiset palvotte julkkiksia sellaisella kiihkeydellä että voin elää yksinkertaisesti lypsämällä ihailuanne.
Te palvotte julkisuutta niin hurmoksessa, että voin elää lypsämällä ihailuanne.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-58
episode-03727
0
Kun kirous on peruttu, olen kuin muutkin.
Kun kirous purkautuu, minusta tulee normaali.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-59
episode-12043
0
Tilanne on riistäytynyt käsistä.
Mopo on lähtenyt käsistä.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-60
episode-08670
0
Maksanko teille tästä? Ei, ei. En tee tätä rahan takia. Kyse on kutsumuksesta.
Maksanko teille tästä? Ei, ei. En tee tätä rahasta. Se on enemmänkin kutsumus.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-61
episode-04271
0
Hei, mitä tapahtuu? Miksi emme voi lähteä?
Mitä on meneillään? Miksemme voi lähteä?
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-62
episode-99701
0
Miksi menit ja pilasit sen?
Miksi sinun piti pilata se?
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-63
episode-99701
0
Voinko heittää pois sinun laihdutussafkasi?
Voinko heittää nämä pupun ruuat pois?
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-64
episode-99701
0
Voinko heittää pois sinun laihdutussafkasi?
Voinko heittää sinun laihdutukseen käyttämät pupun ruuat pois?
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-65
episode-03358
0
Toimme ihmiset luoksenne, mikäli haluatte kuulustella heitä ennen teloitusta.
Toimme ihmiset kuulusteltaviksi ennen teloitustaan.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-66
episode-10822
0
En treffaile enää.
Ei treffejä minulle.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-67
episode-12121
0
Hän teki väärän valinnan.
Hän teki huonon päätöksen.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-68
episode-03143
0
Tuijota tätä kuvaa itsestäsi
Katso kuvaasi
4>s
[]
4>s
positive
false
gem-turku_paraphrase_corpus-train-69
episode-09215
0
Nähdään vajaan tunnin päästä. Tule ajoissa.
Nähdään tunnin sisällä. Älä myöhästy.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-70
s24-t2682
0
kuinkas kävikään kaikista varoituksista huolimatta. Romutettiin hyvä linjavaalisysteemi , henkilökuntakuljetukset lopetettiin ja monta muuta.
Linjavaalit ja henkilökuntakuljetukset ym lakkautettiin säästöihin vedoten sekä monta muutakin ja kuinkas kävikään.
2
[]
2
negative
false
gem-turku_paraphrase_corpus-train-71
episode-46322
0
Mitä oikein hommaat?
Mitä sinä teet?
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-72
not available
0
Puolustusvoimien nimissä on lähetetty huijausviestejä, joissa kehotetaan saapumaan palvelukseen Lähi-idän tilanteen vuoksi
Puolustusvoimien nimissä on lähetetty huijausviestejä
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-73
episode-12121
0
Demonien on pidettävä huolta itsestään.
Jokainen demoni pelastakoon itsensä.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-74
episode-99701
0
Ei onnaa mutsi.
Ei voi mitään, äiti.
4s
[]
4s
positive
false
gem-turku_paraphrase_corpus-train-75
episode-02243
0
Olemme saavuttaneet hienon voiton.
Saavutimme tänään suuren voiton, vanha ystävä.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-76
episode-09215
0
Se tunnollinen typerys.
Se tarkkasilmäinen tollo.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-77
s24-t4618
0
Haluaisin opiskella puutarhuriksi oppisopimuksella.
Itse olisin kiinnostunut, mutta puutarha-ala ei taida olla hirveän kovassa huudossa täällä päin...
2
[]
2
negative
false
gem-turku_paraphrase_corpus-train-78
s24-t4618
0
Haluaisin opiskella puutarhuriksi oppisopimuksella. Mutta en usko, että kysyntää on täällä puutarha-alalla kovinkaan paljon...
Itse olisin kiinnostunut oppisopimuksesta opiskella puutarhuriksi, mutta puutarha-ala ei taida olla hirveän kovassa huudossa täällä päin...
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-79
s24-t2465
0
Sekä perhettä luodessa muokattava sim seisoo takana takaseinän vieressä ja pyörittäessä ympäri menee kuva sen rakennuksen ulkopuolelle??
tai perhettä luodessa sim seisoo muutamia askelia liian takana, aivan perä seinässä kiinni ja yrittäessä kääntää sitä, menee kuva kokonaan rakennuksen ulkopuolelle
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-80
news-001860045b0b01b
0
mikäli maan pääministeriksi nousee todennäköisin vaihtoehto eli Boris Johnson
jos Boris Johnsonista tulee pääministeri
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-81
news-001860045b0b01b
0
mikäli maan pääministeriksi nousee Boris Johnson
jos Boris Johnsonista tulee pääministeri
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-82
s24-t342
0
Kaikkein heikoimmassa asemassa olevia teurastetaan taas urakalla.
Kaikkein heikoimmassa asemassa olevien ihmisten teurastus jatkuu.
4s
[]
4s
positive
false
gem-turku_paraphrase_corpus-train-83
s24-t1777
0
Itse olen 24vuotias Jyväskyläläis neitokainen joka taistelee reilun 10kg painonpudotusurakan kanssa.
Itse olen 24vuotias tyttönen Jyväskylästä. Laihdutettavaa olisi n.10kg.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-84
s24-t1777
0
Itse olen 24vuotias Jyväskyläläis neitokainen joka taistelee noin 10kg painonpudotusurakan kanssa.
Itse olen 24vuotias tyttönen Jyväskylästä. Laihdutettavaa olisi n.10kg.
4
[]
4
positive
true
gem-turku_paraphrase_corpus-train-85
episode-10626
0
Et näe halluja kuten asemalla.
Et näe näkyjä.
4>s
[]
4>s
positive
false
gem-turku_paraphrase_corpus-train-86
episode-26648
0
Koska yrityksellä ei ole asiakkaita eikä näin ollen havaittavissa tulojakaan pankilla ei ole muuta vaihtoehtoa kuin pakkolunastaa omaisuus.
Koska asiakkaita ei ole eikä siten näkyviä tuloja pankin ei auta muu kuin ulosmitata kiinteistö.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-87
episode-19979
0
Hullua. Ihmiset vain antavat minulle tavaraa, autoja ja vaatteita. Kaikki tavara autossani. Kaikki Reebookin kama. Ilmaista.
Se on hullua. Ihmiset vain antavat minulle tavaraa. Autoja, vaatteita. Kaikki ne Reebokit autossani? Ilmaistavaraa.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-88
episode-03358
0
Osa heidän hallituksestaan haluaa tapaamisen, jossa etsitään tapaa lopettaa sota, johon ei sisälly Maan tuhoutuminen.
Jotkut heistä tahtovat kuulemma irti sodasta ilman että Maa tuhotaan.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-89
episode-46322
0
Kun olette täällä, haluatteko käydä yö sukeltamassa?
Haluaisitteko täällä ollessanne tehdä yösukellusta?
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-90
episode-03358
0
Kiitos kun väittelit kanssani.
Hyvä että pistitte minulle hanttiin.
4>i
[]
4>i
positive
false
gem-turku_paraphrase_corpus-train-91
episode-09215
0
Väärensitte reseptejä ja möitte lääkkeitä pimeästi käteistä vastaan.
Kirjoitit valereseptejä ja myit lääkkeet pimeästi.
4>i
[]
4>i
positive
false
gem-turku_paraphrase_corpus-train-92
episode-03727
0
Soitat pianoa, panen pääni pantiksi siitä.
Soitat pianoa. Lyön vaikka vetoa siitä.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-93
episode-3833
0
Älä pilaa tätä 20 minuutin takia, Valerie.
Älä anna 20 minuuttia olla esteenä sille, mitä yritän tehdä.
3
[]
3
positive
false
gem-turku_paraphrase_corpus-train-94
episode-10822
0
Siellä voi olla tappavia gorilloja.
Tuolla voi olla verenhimoisia gorilloja.
4i
[]
4i
positive
false
gem-turku_paraphrase_corpus-train-95
episode-10822
0
Pidä hauskaa lomallani.
Toivottavasti lomallani on hauskaa.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-96
episode-12121
0
Kippis.
Pohjanmaan kautta.
4
[]
4
positive
false
gem-turku_paraphrase_corpus-train-97
episode-12121
0
En olisi voinut järjestää tätä kaikkea ilman ihanaa, lahjakasta Simmonsia.
Ihana, lahjakas Simmons oli tietysti korvaamaton apu.
4>
[]
4>
positive
false
gem-turku_paraphrase_corpus-train-98
episode-19979
0
Kosto kuuluu tarjoilla kylmänä.
Kosto on lajike, joka kuuluu tarjoilla kylmänä, ystäväiseni.
4<
[]
4<
positive
false
gem-turku_paraphrase_corpus-train-99
episode-12146
0
Aaltoratsastajalle jäänyt miehistö on luultavasti jo kuollut, ja kuka tietää, mitä professori Steinille tapahtui.
Ystävämme lienevät kuolleet ja ties missä Stein on.
3
[]
3
positive
false
End of preview.

Dataset Card for GEM/turku_paraphrase_corpus

Link to Main Data Card

You can find the main data card on the GEM Website.

Dataset Summary

This is a Finnish paraphrase corpus which consists of pairs of text passages, where a typical passage is about a sentence long. It can be used to either identify or generate paraphrases.

You can load the dataset via:

import datasets
data = datasets.load_dataset('GEM/turku_paraphrase_corpus')

The data loader can be found here.

website

Website

paper

ACL Anthology

authors

Jenna Kanerva, Filip Ginter, Li-Hsin Chang, Iiro Rastas, Valtteri Skantsi, Jemina Kilpeläinen, Hanna-Mari Kupari, Aurora Piirto, Jenna Saarni, Maija Sevón, Otto Tarkka (TurkuNLP / University of Turku)

Dataset Overview

Where to find the Data and its Documentation

Webpage

Website

Download

Github

Paper

ACL Anthology

BibTex

@inproceedings{kanerva-etal-2021-finnish,
    title = {Finnish Paraphrase Corpus},
    author = {Kanerva, Jenna and Ginter, Filip and Chang, Li-Hsin and Rastas, Iiro and Skantsi, Valtteri and Kilpel{\"a}inen, Jemina and Kupari, Hanna-Mari and Saarni, Jenna and Sev{\'o}n, Maija and Tarkka, Otto},
    booktitle = {Proceedings of the 23rd Nordic Conference on Computational Linguistics (NoDaLiDa'21)},
    year = {2021},
    publisher = {Link{\"o}ping University Electronic Press, Sweden},
    url = {https://aclanthology.org/2021.nodalida-main.29},
    pages = {288--298}
}

Contact Name

Jenna Kanerva, Filip Ginter

Contact Email

jmnybl@utu.fi, figint@utu.fi

Has a Leaderboard?

no

Languages and Intended Use

Multilingual?

no

Covered Dialects

written standard language, spoken language

Covered Languages

Finnish

License

cc-by-sa-4.0: Creative Commons Attribution Share Alike 4.0 International

Intended Use

Paraphrase classification, paraphrase generation

Primary Task

Paraphrasing

Communicative Goal

The corpus provides naturally occurring Finnish paraphrases striving for low lexical overlap, thus supporting many different downstream applications requiring language understanding.

Credit

Curation Organization Type(s)

academic

Curation Organization(s)

University of Turku

Dataset Creators

Jenna Kanerva, Filip Ginter, Li-Hsin Chang, Iiro Rastas, Valtteri Skantsi, Jemina Kilpeläinen, Hanna-Mari Kupari, Aurora Piirto, Jenna Saarni, Maija Sevón, Otto Tarkka (TurkuNLP / University of Turku)

Funding

The Turku paraphrase corpus project was funded by the Academy of Finland, as well as the European Language Grid project through its open call for pilot projects. The European Language Grid project has received funding from the European Union’s Horizon 2020 Research and Innovation programme under Grant Agreement no. 825627 (ELG).

Who added the Dataset to GEM?

Jenna Kanerva, Filip Ginter (TurkuNLP / University of Turku)

Dataset Structure

Data Fields

The dataset consist of pairs of text passages, where a typical passage is about a sentence long, however, a passage may also be longer or shorter than a sentence. Thus, each example include two text passages (string), a manually annotated label to indicate the paraphrase type (string), and additional metadata.

The dataset include three different modes, plain, classification, and generation. The plain mode loads the original data without any additional preprocessing or transformations, while the classification mode directly builds the data in a form suitable for training a paraphrase classifier, where each example is doubled in the data with different directions (text1, text2, label) --> (text2, text1, label) taking care of the label flipping as well if needed (paraphrases with directionality flag < or >). In the generation mode, the examples are preprocessed to be directly suitable for paraphrase generation task. In here, paraphrases not suitable for generation are discarded (negative, and highly context-dependent paraphrases), and directional paraphrases are provided so that the generation goes from more detailed passage to the more general one in order to prevent model hallucination (i.e. model learning to introduce new information). The rest of the paraphrases are provided in both directions (text1, text2, label) --> (text2, text1, label).

Each pair in plain and classification mode will include fields:

gem_id: Identifier of the paraphrase pair (string) goeswith: Identifier of the document from which the paraphrase was extracted, can be not available in case the source of the paraphrase is not from document-structured data (string) fold: 0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold (int) text1: First paraphrase passage (string) text2: Second paraphrase passage (string) label: Manually annotated labels (string) binary_label: Label turned into binary with values positive (paraphrase) and negative (not-paraphrase) (string) is_rewrite: Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)

Each pair in generation mode will include the same fields expect text1 and text2 are renamed to input and output in order to indicate the generation direction. Thus the fields are:

gem_id: Identifier of the paraphrase pair (string) goeswith: Identifier of the document from which the paraphrase was extracted, can be not available in case the source of the paraphrase is not from document-structured data (string) fold: 0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold (int) input: The input paraphrase passage for generation (string) output: The output paraphrase passage for generation (string) label: Manually annotated labels (string) binary_label: Label turned into binary with values positive (paraphrase) and negative (not-paraphrase) (string) is_rewrite: Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)

Example Instance

{
  'gem_id':  'gem-turku_paraphrase_corpus-train-15',
  'goeswith': 'episode-02243',
  'fold': 0,
  'text1': 'Mitä merkitystä sillä on?',
  'text2': 'Mitä väliä sillä edes on?',
  'label': '4',
  'binary_label': 'positive',
  'is_rewrite': False
}

Data Splits

The corpus include 3 splits: train, validation, and test.

Splitting Criteria

The data is split randomly into the three section with a restriction of all paraphrases from the same document (movie, TV episode, news article, student translation, or exam question) being in the same section. All splits are manually annotated.

Dataset in GEM

Rationale for Inclusion in GEM

Why is the Dataset in GEM?

This dataset provides a large amount of high quality (manually collected and verified) paraphrases for Finnish.

Similar Datasets

yes

Unique Language Coverage

no

Ability that the Dataset measures

natural language understanding, language variation

GEM-Specific Curation

Modificatied for GEM?

yes

GEM Modifications

data points modified

Modification Details

Data structure is slightly simplified, and the release provides ready made transformations into two tasks (paraphrase classification and generation), where some data instances are doubled with different direction, and some are discarded as not being suitable for generation (e.g. negatives).

Additional Splits?

no

Getting Started with the Task

Previous Results

Previous Results

Measured Model Abilities

natural language understanding, language variation

Previous results available?

yes

Other Evaluation Approaches

F-score in paraphrase classification

Dataset Curation

Original Curation

Original Curation Rationale

The dataset is fully manually annotated. The dataset strives for interesting paraphrases with low lexical overlap, thus the annotation is two fold. First the paraphrases are manually extracted from two related documents, where the annotators are instructed to extract only interesting paraphrases. In the second phrase, all extracted paraphrases are manually labeled given the annotation scheme.

The annotation scheme is: 4 : paraphrase in all reasonably possible contexts 3 : paraphrase in the given document contexts, but not in general 2 : related but not paraphrase During annotation also labels 1 (unrelated) and x (skip, e.g. wrong language) were used, however, the insignificant amount of examples annotated with these labels were discarded from the released corpus.

The following flags are annotated to label 4 paraphrases: < : txt1 is more general than txt2; txt2 is more specific than txt1 (directional paraphrase where txt2 can be replaced with txt1 in all contexts but not to the other direction)

: txt2 is more general than txt1; txt1 is more specific than txt2 (directional paraphrase where txt1 can be replaced with txt2 in all contexts but not to the other direction) i : minor traceable difference (differing in terms of grammatical number or case, 'this' vs 'that', etc.) s : style or strength difference (e.g. equivalent meaning, but one of the statements substantially more colloquial than the other)

For paraphrases where the annotated label was something else than label 4 without any flags, the annotators had an option to rewrite the text passages so that the rewritten paraphrase pair formed label 4 (universal) paraphrase. This was used for cases where simple edit would turn e.g. contextual or directional paraphrase into universal one. For the rewritten examples, both the original and the rewritten pairs are available with corresponding labels annotated.

Communicative Goal

Representing text passages with identical meaning but different surface realization.

Sourced from Different Sources

yes

Source Details

movie and TV series subtitles (82%) news articles (9%) discussion forum messages (8%) university translation exercises (1%) university course essays and exams (<1%)

Language Data

How was Language Data Obtained?

Found, Other

Where was it found?

Multiple websites, Offline media collection, Other

Language Producers

The movie and TV series subtitles are extracted from OPUS OpenSubtitles2018 collection, which is based on data from OpenSubtitles. The news articles are collected from two Finnish news sites, YLE and HS, during years 2017-2020. Discussion forum messages are obtained from the Finnish Suomi24 discussion forum released for academic use (http://urn.fi/urn:nbn:fi:lb-2020021801). University translation exercises, essays and exams are collected during the project.

Data Validation

validated by data curator

Was Data Filtered?

not filtered

Structured Annotations

Additional Annotations?

expert created

Number of Raters

2<n<10

Rater Qualifications

Members of the TurkuNLP research group, native speakers of Finnish, each annotator has a strong background in language studies by having an academic degree or ongoing studies in a field related to languages or linguistics.

Raters per Training Example

1

Raters per Test Example

1

Annotation Service?

no

Annotation Values

  1. Manual extraction of interesting paraphrases from two related documents.
  2. Manual labeling of each extracted paraphrase based on the given annotation scheme, e.g. distinguishing contextual and universal paraphrases, marking style or strength differences, etc.

Any Quality Control?

validated by another rater

Quality Control Details

Partial double annotation, double annotation batches are assigned regularly in order to monitor annotation consistency. In double annotation, one annotator first extracts the candidate paraphrases, and these candidates are assigned to two different annotators, who does the label annotation independently from each other. Afterwards, the label annotations are merged, and conflicting labels are resolved together with the whole annotation team.

Consent

Any Consent Policy?

yes

Consent Policy Details

The corpus is mostly based on public/open data. For other data sources (student material), the licensing was agreed with the data providers during the collection.

Private Identifying Information (PII)

Contains PII?

likely

Categories of PII

generic PII

Any PII Identification?

no identification

Maintenance

Any Maintenance Plan?

no

Broader Social Context

Previous Work on the Social Impact of the Dataset

Usage of Models based on the Data

no

Impact on Under-Served Communities

Addresses needs of underserved Communities?

no

Discussion of Biases

Any Documented Social Biases?

no

Considerations for Using the Data

PII Risks and Liability

Potential PII Risk

None

Licenses

Copyright Restrictions on the Dataset

open license - commercial use allowed

Copyright Restrictions on the Language Data

open license - commercial use allowed

Known Technical Limitations

Downloads last month
418
Edit dataset card