Datasets:
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
Error code: ExternalFilesSizeRequestTimeoutError Exception: ReadTimeout Message: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0) Traceback: Traceback (most recent call last): File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 466, in _make_request six.raise_from(e, None) File "<string>", line 3, in raise_from File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 461, in _make_request httplib_response = conn.getresponse() File "/usr/local/lib/python3.9/http/client.py", line 1377, in getresponse response.begin() File "/usr/local/lib/python3.9/http/client.py", line 320, in begin version, status, reason = self._read_status() File "/usr/local/lib/python3.9/http/client.py", line 281, in _read_status line = str(self.fp.readline(_MAXLINE + 1), "iso-8859-1") File "/usr/local/lib/python3.9/socket.py", line 704, in readinto return self._sock.recv_into(b) File "/usr/local/lib/python3.9/ssl.py", line 1242, in recv_into return self.read(nbytes, buffer) File "/usr/local/lib/python3.9/ssl.py", line 1100, in read return self._sslobj.read(len, buffer) socket.timeout: The read operation timed out During handling of the above exception, another exception occurred: Traceback (most recent call last): File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/adapters.py", line 486, in send resp = conn.urlopen( File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 798, in urlopen retries = retries.increment( File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/util/retry.py", line 550, in increment raise six.reraise(type(error), error, _stacktrace) File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/packages/six.py", line 770, in reraise raise value File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 714, in urlopen httplib_response = self._make_request( File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 468, in _make_request self._raise_timeout(err=e, url=url, timeout_value=read_timeout) File "/src/services/worker/.venv/lib/python3.9/site-packages/urllib3/connectionpool.py", line 357, in _raise_timeout raise ReadTimeoutError( urllib3.exceptions.ReadTimeoutError: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0) During handling of the above exception, another exception occurred: Traceback (most recent call last): File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 488, in _is_too_big_from_external_data_files for i, size in enumerate(pool.imap_unordered(get_size, ext_data_files)): File "/usr/local/lib/python3.9/multiprocessing/pool.py", line 870, in next raise value File "/usr/local/lib/python3.9/multiprocessing/pool.py", line 125, in worker result = (True, func(*args, **kwds)) File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 386, in _request_size response = http_head(url, headers=headers, max_retries=3) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/utils/file_utils.py", line 429, in http_head response = _request_with_retry( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/utils/file_utils.py", line 328, in _request_with_retry response = requests.request(method=method.upper(), url=url, timeout=timeout, **params) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/api.py", line 59, in request return session.request(method=method, url=url, **kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 589, in request resp = self.send(prep, **send_kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 725, in send history = [resp for resp in gen] File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 725, in <listcomp> history = [resp for resp in gen] File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 266, in resolve_redirects resp = self.send( File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/sessions.py", line 703, in send r = adapter.send(request, **kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/requests/adapters.py", line 532, in send raise ReadTimeout(e, request=request) requests.exceptions.ReadTimeout: HTTPSConnectionPool(host='raw.githubusercontent.com', port=443): Read timed out. (read timeout=10.0)
Need help to make the dataset viewer work? Open a discussion for direct support.
id
string | gem_id
string | goeswith
string | fold
int32 | text1
string | text2
string | label
string | binary_label
string | is_rewrite
bool |
---|---|---|---|---|---|---|---|---|
turku_paraphrase_corpus-train-0 | gem-turku_paraphrase_corpus-train-0 | news-77f8263537f9e12 | 0 | Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi mahdollisen rikoksen uhriksi joutumisesta. | Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi. | 4s | positive | false |
turku_paraphrase_corpus-train-1 | gem-turku_paraphrase_corpus-train-1 | news-77f8263537f9e12 | 0 | Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi. | Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi mahdollisen rikoksen uhriksi joutumisesta. | 4s | positive | false |
turku_paraphrase_corpus-train-2 | gem-turku_paraphrase_corpus-train-2 | news-77f8263537f9e12 | 0 | Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi rikoksen uhriksi joutumisesta. | Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi. | 4 | positive | true |
turku_paraphrase_corpus-train-3 | gem-turku_paraphrase_corpus-train-3 | news-77f8263537f9e12 | 0 | Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi. | Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi mahdollisen rikoksen uhriksi joutumisesta. | 4s | positive | false |
turku_paraphrase_corpus-train-4 | gem-turku_paraphrase_corpus-train-4 | s24-t690 | 0 | jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle. | Sen syödessä kupista tai luuta, olen tiputtanut kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä puolustaa ruokaansa. | 3 | positive | false |
turku_paraphrase_corpus-train-5 | gem-turku_paraphrase_corpus-train-5 | s24-t690 | 0 | Sen syödessä kupista tai luuta, olen tiputtanut kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä puolustaa ruokaansa. | jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle. | 3 | positive | false |
turku_paraphrase_corpus-train-6 | gem-turku_paraphrase_corpus-train-6 | s24-t690 | 0 | jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle. | Sen syödessä kupista tai luuta, olemme tiputtaneet kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä murist meidän lähestyessä. | 4 | positive | true |
turku_paraphrase_corpus-train-7 | gem-turku_paraphrase_corpus-train-7 | s24-t690 | 0 | Sen syödessä kupista tai luuta, olen tiputtanut kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä puolustaa ruokaansa. | jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle. | 3 | positive | false |
turku_paraphrase_corpus-train-8 | gem-turku_paraphrase_corpus-train-8 | episode-12146 | 0 | Miksi en ole lainkaan yllättynyt? | En ylläty vähääkään. | 4<i | positive | false |
turku_paraphrase_corpus-train-9 | gem-turku_paraphrase_corpus-train-9 | episode-12146 | 0 | En ylläty vähääkään. | Miksi en ole lainkaan yllättynyt? | 4>i | positive | false |
turku_paraphrase_corpus-train-10 | gem-turku_paraphrase_corpus-train-10 | episode-05041 | 0 | Tiimillemme oli tärkeää, Ellen, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia. | Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia. | 3 | positive | false |
turku_paraphrase_corpus-train-11 | gem-turku_paraphrase_corpus-train-11 | episode-05041 | 0 | Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia. | Tiimillemme oli tärkeää, Ellen, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia. | 3 | positive | false |
turku_paraphrase_corpus-train-12 | gem-turku_paraphrase_corpus-train-12 | episode-05041 | 0 | Tiimillemme oli tärkeää varmistaa, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia. | Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia. | 4 | positive | true |
turku_paraphrase_corpus-train-13 | gem-turku_paraphrase_corpus-train-13 | episode-05041 | 0 | Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia. | Tiimillemme oli tärkeää, Ellen, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia. | 3 | positive | false |
turku_paraphrase_corpus-train-14 | gem-turku_paraphrase_corpus-train-14 | episode-08670 | 0 | Hän oli väsynyt, eikä voinut tietää kuinka julma oli. | Hän oli uupunut, eikä voinut tietää, miten julmaa se oli. | 4> | positive | false |
turku_paraphrase_corpus-train-15 | gem-turku_paraphrase_corpus-train-15 | episode-08670 | 0 | Hän oli uupunut, eikä voinut tietää, miten julmaa se oli. | Hän oli väsynyt, eikä voinut tietää kuinka julma oli. | 4< | positive | false |
turku_paraphrase_corpus-train-16 | gem-turku_paraphrase_corpus-train-16 | episode-1821 | 0 | No niin alkuasukkaat! Kuunnelkaa! | Kuunnelkaa, senkin alkukantaiset idiootit. | 4< | positive | false |
turku_paraphrase_corpus-train-17 | gem-turku_paraphrase_corpus-train-17 | episode-1821 | 0 | Kuunnelkaa, senkin alkukantaiset idiootit. | No niin alkuasukkaat! Kuunnelkaa! | 4> | positive | false |
turku_paraphrase_corpus-train-18 | gem-turku_paraphrase_corpus-train-18 | episode-04937 | 0 | Annan alibin. | Annan sinulle peitetarinan. | 4< | positive | false |
turku_paraphrase_corpus-train-19 | gem-turku_paraphrase_corpus-train-19 | episode-04937 | 0 | Annan sinulle peitetarinan. | Annan alibin. | 4> | positive | false |
turku_paraphrase_corpus-train-20 | gem-turku_paraphrase_corpus-train-20 | episode-04937 | 0 | Luon alibin sinulle. | Annan sinulle peitetarinan. | 4 | positive | true |
turku_paraphrase_corpus-train-21 | gem-turku_paraphrase_corpus-train-21 | episode-04937 | 0 | Annan sinulle peitetarinan. | Annan alibin. | 4> | positive | false |
turku_paraphrase_corpus-train-22 | gem-turku_paraphrase_corpus-train-22 | episode-10822 | 0 | Voiko Lauren nukuttaa minut? | Voiko Lauren laittaa minut nukkumaan? | 4< | positive | false |
turku_paraphrase_corpus-train-23 | gem-turku_paraphrase_corpus-train-23 | episode-10822 | 0 | Voiko Lauren laittaa minut nukkumaan? | Voiko Lauren nukuttaa minut? | 4> | positive | false |
turku_paraphrase_corpus-train-24 | gem-turku_paraphrase_corpus-train-24 | episode-05041 | 0 | Liekit päälle! | Roihu päälle! | 4< | positive | false |
turku_paraphrase_corpus-train-25 | gem-turku_paraphrase_corpus-train-25 | episode-05041 | 0 | Roihu päälle! | Liekit päälle! | 4> | positive | false |
turku_paraphrase_corpus-train-26 | gem-turku_paraphrase_corpus-train-26 | episode-05041 | 0 | Olen ollut tämän ajan sinulle vihainen kunnian viemisestä. | Olen ollut vihainen sinulle, koska yritit ottaa kaiken kunnian, Jimmy. | 3 | positive | false |
turku_paraphrase_corpus-train-27 | gem-turku_paraphrase_corpus-train-27 | episode-05041 | 0 | Olen ollut vihainen sinulle, koska yritit ottaa kaiken kunnian, Jimmy. | Olen ollut tämän ajan sinulle vihainen kunnian viemisestä. | 3 | positive | false |
turku_paraphrase_corpus-train-28 | gem-turku_paraphrase_corpus-train-28 | episode-05041 | 0 | Olen ollut sinulle vihainen kunnian viemisen yrittämisestä. | Olen ollut vihainen sinulle, koska yritit ottaa kunnian. | 4 | positive | true |
turku_paraphrase_corpus-train-29 | gem-turku_paraphrase_corpus-train-29 | episode-05041 | 0 | Olen ollut vihainen sinulle, koska yritit ottaa kaiken kunnian, Jimmy. | Olen ollut tämän ajan sinulle vihainen kunnian viemisestä. | 3 | positive | false |
turku_paraphrase_corpus-train-30 | gem-turku_paraphrase_corpus-train-30 | episode-02243 | 0 | Mitä merkitystä sillä on? | Mitä väliä sillä edes on? | 4 | positive | false |
turku_paraphrase_corpus-train-31 | gem-turku_paraphrase_corpus-train-31 | episode-02243 | 0 | Mitä väliä sillä edes on? | Mitä merkitystä sillä on? | 4 | positive | false |
turku_paraphrase_corpus-train-32 | gem-turku_paraphrase_corpus-train-32 | episode-3833 | 0 | Ostin juuri luotolla. | Käytin juuri MasterCardiani. | 4< | positive | false |
turku_paraphrase_corpus-train-33 | gem-turku_paraphrase_corpus-train-33 | episode-3833 | 0 | Käytin juuri MasterCardiani. | Ostin juuri luotolla. | 4> | positive | false |
turku_paraphrase_corpus-train-34 | gem-turku_paraphrase_corpus-train-34 | episode-3833 | 0 | Ostin juuri luotolla. | Käytin juuri luottokorttiani. | 4 | positive | true |
turku_paraphrase_corpus-train-35 | gem-turku_paraphrase_corpus-train-35 | episode-3833 | 0 | Käytin juuri MasterCardiani. | Ostin juuri luotolla. | 4> | positive | false |
turku_paraphrase_corpus-train-36 | gem-turku_paraphrase_corpus-train-36 | episode-3833 | 0 | Etkö muka tunne näitä ihmisiä? Olet samaa perhettä. | Et tiennyt keitä nämä ihmiset ovat? Sinä avioiduit heihin. | 4< | positive | false |
turku_paraphrase_corpus-train-37 | gem-turku_paraphrase_corpus-train-37 | episode-3833 | 0 | Et tiennyt keitä nämä ihmiset ovat? Sinä avioiduit heihin. | Etkö muka tunne näitä ihmisiä? Olet samaa perhettä. | 4> | positive | false |
turku_paraphrase_corpus-train-38 | gem-turku_paraphrase_corpus-train-38 | episode-3833 | 0 | Etkö muka tunne näitä ihmisiä? Olet samaa perhettä. | Et tiennyt keitä nämä ihmiset ovat vaikka kuulut samaan perheeseen? | 4 | positive | true |
turku_paraphrase_corpus-train-39 | gem-turku_paraphrase_corpus-train-39 | episode-3833 | 0 | Et tiennyt keitä nämä ihmiset ovat? Sinä avioiduit heihin. | Etkö muka tunne näitä ihmisiä? Olet samaa perhettä. | 4> | positive | false |
turku_paraphrase_corpus-train-40 | gem-turku_paraphrase_corpus-train-40 | episode-26648 | 0 | Sota on rankkaa, haju-poika. | Sota on helvettiä, haisuli. | 4>s | positive | false |
turku_paraphrase_corpus-train-41 | gem-turku_paraphrase_corpus-train-41 | episode-26648 | 0 | Sota on helvettiä, haisuli. | Sota on rankkaa, haju-poika. | 4<s | positive | false |
turku_paraphrase_corpus-train-42 | gem-turku_paraphrase_corpus-train-42 | episode-19979 | 0 | Isäni on putkimies, tekee töitä hullun lailla. | Isäni on putkimies, tekee niska limassa töitä. | 4 | positive | false |
turku_paraphrase_corpus-train-43 | gem-turku_paraphrase_corpus-train-43 | episode-19979 | 0 | Isäni on putkimies, tekee niska limassa töitä. | Isäni on putkimies, tekee töitä hullun lailla. | 4 | positive | false |
turku_paraphrase_corpus-train-44 | gem-turku_paraphrase_corpus-train-44 | episode-03358 | 0 | Vakoojani saivat tietää narnien tehtävästä Epsilon-järjestelmään. | Saimme tietää narnien retkikunnasta. | 3 | positive | false |
turku_paraphrase_corpus-train-45 | gem-turku_paraphrase_corpus-train-45 | episode-03358 | 0 | Saimme tietää narnien retkikunnasta. | Vakoojani saivat tietää narnien tehtävästä Epsilon-järjestelmään. | 3 | positive | false |
turku_paraphrase_corpus-train-46 | gem-turku_paraphrase_corpus-train-46 | episode-12043 | 0 | Annan anteeksi rakkautesi Julianiin. | Annan anteeksi, että rakastit häntä. | 4>i | positive | false |
turku_paraphrase_corpus-train-47 | gem-turku_paraphrase_corpus-train-47 | episode-12043 | 0 | Annan anteeksi, että rakastit häntä. | Annan anteeksi rakkautesi Julianiin. | 4<i | positive | false |
turku_paraphrase_corpus-train-48 | gem-turku_paraphrase_corpus-train-48 | episode-04271 | 0 | Raivotauti ei näy verikokeessa. | Raivotautisuus ei näy verikokeissa. | 4i | positive | false |
turku_paraphrase_corpus-train-49 | gem-turku_paraphrase_corpus-train-49 | episode-04271 | 0 | Raivotautisuus ei näy verikokeissa. | Raivotauti ei näy verikokeessa. | 4i | positive | false |
turku_paraphrase_corpus-train-50 | gem-turku_paraphrase_corpus-train-50 | episode-04271 | 0 | Raivotauti ei näy verikokeessa. | Raivotautisuus ei näy verikokeessa. | 4 | positive | true |
turku_paraphrase_corpus-train-51 | gem-turku_paraphrase_corpus-train-51 | episode-04271 | 0 | Raivotautisuus ei näy verikokeissa. | Raivotauti ei näy verikokeessa. | 4i | positive | false |
turku_paraphrase_corpus-train-52 | gem-turku_paraphrase_corpus-train-52 | episode-07416 | 0 | En usko, että hänellä jää töiltään aikaa. | Ei, en usko, että hänellä on oikein aikaa | 4> | positive | false |
turku_paraphrase_corpus-train-53 | gem-turku_paraphrase_corpus-train-53 | episode-07416 | 0 | Ei, en usko, että hänellä on oikein aikaa | En usko, että hänellä jää töiltään aikaa. | 4< | positive | false |
turku_paraphrase_corpus-train-54 | gem-turku_paraphrase_corpus-train-54 | episode-12043 | 0 | Minulle on kehittynyt tunteita ihmistä kohtaan, jolla on surkea maku, mutta jota en saa mielestäni. | Minulle on kehittynyt tunteita erästä naista kohtaan, jolla on erittäin huono maku. Silti en saa häntä mielestäni. | 4< | positive | false |
turku_paraphrase_corpus-train-55 | gem-turku_paraphrase_corpus-train-55 | episode-12043 | 0 | Minulle on kehittynyt tunteita erästä naista kohtaan, jolla on erittäin huono maku. Silti en saa häntä mielestäni. | Minulle on kehittynyt tunteita ihmistä kohtaan, jolla on surkea maku, mutta jota en saa mielestäni. | 4> | positive | false |
turku_paraphrase_corpus-train-56 | gem-turku_paraphrase_corpus-train-56 | episode-12146 | 0 | NASAlla on tarkat säännöt liittyen likinäköisyyteen. Ja pilven polttamiseen. | NASA ei ota likinäköisiä. Eikä pilviveikkoja. | 3 | positive | false |
turku_paraphrase_corpus-train-57 | gem-turku_paraphrase_corpus-train-57 | episode-12146 | 0 | NASA ei ota likinäköisiä. Eikä pilviveikkoja. | NASAlla on tarkat säännöt liittyen likinäköisyyteen. Ja pilven polttamiseen. | 3 | positive | false |
turku_paraphrase_corpus-train-58 | gem-turku_paraphrase_corpus-train-58 | episode-12043 | 0 | Vaikuttaa todella pahalta tripiltä. | Sinulla taitaa olla huono trippi. | 4< | positive | false |
turku_paraphrase_corpus-train-59 | gem-turku_paraphrase_corpus-train-59 | episode-12043 | 0 | Sinulla taitaa olla huono trippi. | Vaikuttaa todella pahalta tripiltä. | 4> | positive | false |
turku_paraphrase_corpus-train-60 | gem-turku_paraphrase_corpus-train-60 | episode-04271 | 0 | Ei mitään hätää, rouva Espinoza. Olemme täällä auttamassa. | Teidän ei tarvitse huolehtia, rouva Espinoza. Olemme täällä auttaaksemme teitä. | 4< | positive | false |
turku_paraphrase_corpus-train-61 | gem-turku_paraphrase_corpus-train-61 | episode-04271 | 0 | Teidän ei tarvitse huolehtia, rouva Espinoza. Olemme täällä auttaaksemme teitä. | Ei mitään hätää, rouva Espinoza. Olemme täällä auttamassa. | 4> | positive | false |
turku_paraphrase_corpus-train-62 | gem-turku_paraphrase_corpus-train-62 | episode-19979 | 0 | Se oli ensimmäinen tähtirooliini. | Se oli ensimmäinen roolini. | 4> | positive | false |
turku_paraphrase_corpus-train-63 | gem-turku_paraphrase_corpus-train-63 | episode-19979 | 0 | Se oli ensimmäinen roolini. | Se oli ensimmäinen tähtirooliini. | 4< | positive | false |
turku_paraphrase_corpus-train-64 | gem-turku_paraphrase_corpus-train-64 | episode-10822 | 0 | Dale, paljonko maksan sinulle? | Dale, paljonkos maksankaan tästä? | 3 | positive | false |
turku_paraphrase_corpus-train-65 | gem-turku_paraphrase_corpus-train-65 | episode-10822 | 0 | Dale, paljonkos maksankaan tästä? | Dale, paljonko maksan sinulle? | 3 | positive | false |
turku_paraphrase_corpus-train-66 | gem-turku_paraphrase_corpus-train-66 | episode-26648 | 0 | Parin vuoden kuluttua he aloittavat bändissä, kasvattavat pitkän tukan, varastavat Suburbanisi mennäkseen kiertueelle. | Pian he perustavat bändin kasvattavat hiuksensa ja vievät auton lähteäkseen keikalle. | 4> | positive | false |
turku_paraphrase_corpus-train-67 | gem-turku_paraphrase_corpus-train-67 | episode-26648 | 0 | Pian he perustavat bändin kasvattavat hiuksensa ja vievät auton lähteäkseen keikalle. | Parin vuoden kuluttua he aloittavat bändissä, kasvattavat pitkän tukan, varastavat Suburbanisi mennäkseen kiertueelle. | 4< | positive | false |
turku_paraphrase_corpus-train-68 | gem-turku_paraphrase_corpus-train-68 | episode-09215 | 0 | Tiesitte joidenkin miesten kiusanneen Lucya, koska hän nosti syytteen. | Tiesit, että jotkut miehet kiusasivat Lucya ilmoituksen vuoksi. | 4>i | positive | false |
turku_paraphrase_corpus-train-69 | gem-turku_paraphrase_corpus-train-69 | episode-09215 | 0 | Tiesit, että jotkut miehet kiusasivat Lucya ilmoituksen vuoksi. | Tiesitte joidenkin miesten kiusanneen Lucya, koska hän nosti syytteen. | 4<i | positive | false |
turku_paraphrase_corpus-train-70 | gem-turku_paraphrase_corpus-train-70 | episode-10822 | 0 | Heitetään pihalle omasta teltasta... | Lennän ulos omasta teltasta. | 4< | positive | false |
turku_paraphrase_corpus-train-71 | gem-turku_paraphrase_corpus-train-71 | episode-10822 | 0 | Lennän ulos omasta teltasta. | Heitetään pihalle omasta teltasta... | 4> | positive | false |
turku_paraphrase_corpus-train-72 | gem-turku_paraphrase_corpus-train-72 | episode-12121 | 0 | Mennään jaloittelemaan. | Verrytellään vähän jalkoja. | 4 | positive | false |
turku_paraphrase_corpus-train-73 | gem-turku_paraphrase_corpus-train-73 | episode-12121 | 0 | Verrytellään vähän jalkoja. | Mennään jaloittelemaan. | 4 | positive | false |
turku_paraphrase_corpus-train-74 | gem-turku_paraphrase_corpus-train-74 | episode-04271 | 0 | Meidän pitäisi hakea hänen isänsä alakertaan. | Hänen isänsä pitäisi tuoda tänne! | 4> | positive | false |
turku_paraphrase_corpus-train-75 | gem-turku_paraphrase_corpus-train-75 | episode-04271 | 0 | Hänen isänsä pitäisi tuoda tänne! | Meidän pitäisi hakea hänen isänsä alakertaan. | 4< | positive | false |
turku_paraphrase_corpus-train-76 | gem-turku_paraphrase_corpus-train-76 | episode-09215 | 0 | Mutta sinä aamuna Lucy sanoi minun mokanneen, että olin ottanut liian vähän ja Lucy oli väärässä. | Sinä aamuna Lucy väitti, että olin unohtanut ottaa yhden, vaikka en ollut. | 3 | positive | false |
turku_paraphrase_corpus-train-77 | gem-turku_paraphrase_corpus-train-77 | episode-09215 | 0 | Sinä aamuna Lucy väitti, että olin unohtanut ottaa yhden, vaikka en ollut. | Mutta sinä aamuna Lucy sanoi minun mokanneen, että olin ottanut liian vähän ja Lucy oli väärässä. | 3 | positive | false |
turku_paraphrase_corpus-train-78 | gem-turku_paraphrase_corpus-train-78 | episode-07416 | 0 | Seksuaalirikokset ovat harvassa. | Täällä ei juuri ole seksirikoksia | 4< | positive | false |
turku_paraphrase_corpus-train-79 | gem-turku_paraphrase_corpus-train-79 | episode-07416 | 0 | Täällä ei juuri ole seksirikoksia | Seksuaalirikokset ovat harvassa. | 4> | positive | false |
turku_paraphrase_corpus-train-80 | gem-turku_paraphrase_corpus-train-80 | episode-10822 | 0 | Montako kertaa olen sanonut, että et syötä hänelle sokeria! | Kuinka monta kertaa olen sanonut, ettet pumppaisi häntä täyteen sokeria. | 4 | positive | false |
turku_paraphrase_corpus-train-81 | gem-turku_paraphrase_corpus-train-81 | episode-10822 | 0 | Kuinka monta kertaa olen sanonut, ettet pumppaisi häntä täyteen sokeria. | Montako kertaa olen sanonut, että et syötä hänelle sokeria! | 4 | positive | false |
turku_paraphrase_corpus-train-82 | gem-turku_paraphrase_corpus-train-82 | episode-03358 | 0 | Jos minbarit haluavat viimeistellä meidät, antaa heidän tulla luoksemme. | Tulkoot lähemmäs jos haluavat listiä meidät. | 4> | positive | false |
turku_paraphrase_corpus-train-83 | gem-turku_paraphrase_corpus-train-83 | episode-03358 | 0 | Tulkoot lähemmäs jos haluavat listiä meidät. | Jos minbarit haluavat viimeistellä meidät, antaa heidän tulla luoksemme. | 4< | positive | false |
turku_paraphrase_corpus-train-84 | gem-turku_paraphrase_corpus-train-84 | episode-09215 | 0 | Pelastusyksikkö, vastatkaa tilanteeseen heti. | Kaikki ensiapuhenkilöt paikalle välittömästi. | 3 | positive | false |
turku_paraphrase_corpus-train-85 | gem-turku_paraphrase_corpus-train-85 | episode-09215 | 0 | Kaikki ensiapuhenkilöt paikalle välittömästi. | Pelastusyksikkö, vastatkaa tilanteeseen heti. | 3 | positive | false |
turku_paraphrase_corpus-train-86 | gem-turku_paraphrase_corpus-train-86 | episode-12121 | 0 | Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi. | He laittavat itsensä likoon saamatta mitään vastineeksi. | 4> | positive | false |
turku_paraphrase_corpus-train-87 | gem-turku_paraphrase_corpus-train-87 | episode-12121 | 0 | He laittavat itsensä likoon saamatta mitään vastineeksi. | Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi. | 4< | positive | false |
turku_paraphrase_corpus-train-88 | gem-turku_paraphrase_corpus-train-88 | episode-12121 | 0 | Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi. | He laittavat itsensä likoon kaupungista toiseen saamatta lähes mitään vastineeksi. | 4 | positive | true |
turku_paraphrase_corpus-train-89 | gem-turku_paraphrase_corpus-train-89 | episode-12121 | 0 | He laittavat itsensä likoon saamatta mitään vastineeksi. | Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi. | 4< | positive | false |
turku_paraphrase_corpus-train-90 | gem-turku_paraphrase_corpus-train-90 | episode-08670 | 0 | Minulle lobotomia on ontelon täyttöön verrattavaa rutiinia. | Minun käsissäni transorbitaalista lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin. | 3 | positive | false |
turku_paraphrase_corpus-train-91 | gem-turku_paraphrase_corpus-train-91 | episode-08670 | 0 | Minun käsissäni transorbitaalista lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin. | Minulle lobotomia on ontelon täyttöön verrattavaa rutiinia. | 3 | positive | false |
turku_paraphrase_corpus-train-92 | gem-turku_paraphrase_corpus-train-92 | episode-08670 | 0 | Minulle lobotomia on hampaan paikkaamiseen verrattavaa rutiinia. | Minun käsissäni lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin. | 4 | positive | true |
turku_paraphrase_corpus-train-93 | gem-turku_paraphrase_corpus-train-93 | episode-08670 | 0 | Minun käsissäni transorbitaalista lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin. | Minulle lobotomia on ontelon täyttöön verrattavaa rutiinia. | 3 | positive | false |
turku_paraphrase_corpus-train-94 | gem-turku_paraphrase_corpus-train-94 | episode-08670 | 0 | Luotan vaistooni. Vaisto kertoo kaiken. | Minä luotan vaistoihini. Vaistot ovat kaikki. | 4> | positive | false |
turku_paraphrase_corpus-train-95 | gem-turku_paraphrase_corpus-train-95 | episode-08670 | 0 | Minä luotan vaistoihini. Vaistot ovat kaikki. | Luotan vaistooni. Vaisto kertoo kaiken. | 4< | positive | false |
turku_paraphrase_corpus-train-96 | gem-turku_paraphrase_corpus-train-96 | episode-03358 | 0 | Tiedän. Se oli välttämätöntä. | Tiedän, oli pakko. | 4> | positive | false |
turku_paraphrase_corpus-train-97 | gem-turku_paraphrase_corpus-train-97 | episode-03358 | 0 | Tiedän, oli pakko. | Tiedän. Se oli välttämätöntä. | 4< | positive | false |
turku_paraphrase_corpus-train-98 | gem-turku_paraphrase_corpus-train-98 | episode-19979 | 0 | Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä? | Huomenna kello 20. Tapaan sinut siellä. Selvä? | 3 | positive | false |
turku_paraphrase_corpus-train-99 | gem-turku_paraphrase_corpus-train-99 | episode-19979 | 0 | Huomenna kello 20. Tapaan sinut siellä. Selvä? | Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä? | 3 | positive | false |
Dataset Card for [Dataset Name]
Dataset Summary
The project gathered a large dataset of Finnish paraphrase pairs (over 100,000). The paraphrases are selected and classified manually, so as to minimize lexical overlap, and provide examples that are maximally structurally and lexically different. The objective is to create a dataset which is challenging and better tests the capabilities of natural language understanding. An important feature of the data is that most paraphrase pairs are distributed in their document context. The primary application for the dataset is the development and evaluation of deep language models, and representation learning in general.
Usage:
from datasets import load_dataset
dataset = load_dataset('TurkuNLP/turku_paraphrase_corpus', name="plain")
where name
is one of the supported loading options: plain
, plain-context
, classification
, classification-context
, or generation
. See Data Fields for more information.
Supported Tasks and Leaderboards
- Paraphrase classification
- Paraphrase generation
Languages
Finnish
Dataset Structure
Data Instances
[More Information Needed]
Data Fields
The dataset consist of pairs of text passages, where a typical passage is about a sentence long, however, a passage may also be longer or shorter than a sentence. Thus, each example includes two text passages (string), a manually annotated label to indicate the paraphrase type (string), and additional metadata. The dataset includes three different configurations: plain
, classification
, and generation
. The plain
configuration loads the original data without any additional preprocessing or transformations, while the classification
configuration directly builds the data in a form suitable for training a paraphrase classifier, where each example is doubled in the data with different directions (text1, text2, label) --> (text2, text1, label) taking care of the label flipping as well if needed (paraphrases with directionality flag < or >). In the generation
configuration, the examples are preprocessed to be directly suitable for the paraphrase generation task. In here, paraphrases not suitable for generation are discarded (negative, and highly context-dependent paraphrases), and directional paraphrases are provided so that the generation goes from more detailed passage to the more general one in order to prevent model hallucination (i.e. model learning to introduce new information). The rest of the paraphrases are provided in both directions (text1, text2, label) --> (text2, text1, label).
Each pair in the plain
and classification
configurations will include fields:
id
:
Identifier of the paraphrase pair (string)
gem_id
:
Identifier of the paraphrase pair in the GEM dataset (string)
goeswith
:
Identifier of the document from which the paraphrase was extracted, can be not available
in case the source of the paraphrase is not from document-structured data. All examples with the same goeswith
value (other than not available
) should be kept together in any train/dev/test split; most users won't need this (string)
fold
:
0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold, most users won't need this (int)
text1
:
First paraphrase passage (string)
text2
:
Second paraphrase passage (string)
label
:
Manually annotated labels (string)
binary_label
:
Label turned into binary with values positive
(paraphrase) and negative
(not-paraphrase) (string)
is_rewrite
:
Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)
Each pair in the generation
config will include the same fields except text1
and text2
are renamed to input
and output
in order to indicate the generation direction. Thus the fields are: id
, gem_id
, goeswith
, fold
, input
, output
, label
, binary_label
, and is_rewrite
Context: Most (but not all) of the paraphrase pairs are identified in their document context. By default, these contexts are not included to conserve memory, but can be accessed using the configurations plain-context
and classification-context
. These are exactly like plain
and classification
with these additional fields:
context1
:
a dictionary with the fields doctext
(string), begin
(int), end
(int). These mean that the paraphrase in text1
was extracted from doctext[begin:end]
. In most cases, doctext[begin:end]
and text1
are the exact same string, but occassionally that is not the case when e.g. intervening punctuations or other unrelated texts were "cleaned" from text1
during annotation. In case the context is not available, doctext
is an empty string and beg==end==0
context2
:
same as context1
but for text2
Data Splits
[More Information Needed]
Dataset Creation
Curation Rationale
[More Information Needed]
Source Data
Initial Data Collection and Normalization
[More Information Needed]
Who are the source language producers?
[More Information Needed]
Annotations
Annotation process
[More Information Needed]
Who are the annotators?
[More Information Needed]
Personal and Sensitive Information
[More Information Needed]
Considerations for Using the Data
Social Impact of Dataset
[More Information Needed]
Discussion of Biases
[More Information Needed]
Other Known Limitations
[More Information Needed]
Additional Information
Dataset Curators
[More Information Needed]
Licensing Information
[More Information Needed]
Citation Information
[More Information Needed]
Contributions
- Downloads last month
- 451