Datasets:
GEM
/

Tasks: unknown
Task Categories: paraphrasing
Languages: Finnish
Multilinguality: unknown
Size Categories: unknown
Language Creators: unknown
Annotations Creators: expert-created
Source Datasets: original
Dataset Preview
Go to dataset viewer
gem_id (string)goeswith (string)fold (int32)text1 (string)text2 (string)target (string)references (list)label (string)binary_label (string)is_rewrite (bool)
"gem-turku_paraphrase_corpus-train-0"
"news-77f8263537f9e12"
0
"Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi mahdollisen rikoksen uhriksi joutumisesta."
"Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi."
"4s"
[]
"4s"
"positive"
false
"gem-turku_paraphrase_corpus-train-1"
"news-77f8263537f9e12"
0
"Poliisi epäilee, että kaikki asianomistajat eivät vielä ole tulleet tietoisiksi rikoksen uhriksi joutumisesta."
"Poliisi epäilee myös, että kaikki asianomistajat eivät tiedä joutuneensa rikoksen uhreiksi."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-2"
"s24-t690"
0
"jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle."
"Sen syödessä kupista tai luuta, olen tiputtanut kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä puolustaa ruokaansa."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-3"
"s24-t690"
0
"jos se syö kupistaan/luutaan, olemme pudottaneet jotain erityisherkkua kuppiin/vierelle, jolloin se ei ole murissut meidän tullessa lähelle."
"Sen syödessä kupista tai luuta, olemme tiputtaneet kuppiin/sen viereen jotain oikein herkkua eikä se silloin välitä murist meidän lähestyessä."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-4"
"episode-12146"
0
"Miksi en ole lainkaan yllättynyt?"
"En ylläty vähääkään."
"4<i"
[]
"4<i"
"positive"
false
"gem-turku_paraphrase_corpus-train-5"
"episode-05041"
0
"Tiimillemme oli tärkeää, Ellen, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia."
"Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-6"
"episode-05041"
0
"Tiimillemme oli tärkeää varmistaa, että kaikki ymmärsivät meidän keksineen vitsin. Ei Carlos persreikä Mencia."
"Meille oli ryhmänä tärkeää varmistaa kaikille, että keksimme vitsin, eikä se persläpi Carlos Mencia."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-7"
"episode-08670"
0
"Hän oli väsynyt, eikä voinut tietää kuinka julma oli."
"Hän oli uupunut, eikä voinut tietää, miten julmaa se oli."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-8"
"episode-1821"
0
"No niin alkuasukkaat! Kuunnelkaa!"
"Kuunnelkaa, senkin alkukantaiset idiootit."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-9"
"episode-04937"
0
"Annan alibin."
"Annan sinulle peitetarinan."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-10"
"episode-04937"
0
"Luon alibin sinulle."
"Annan sinulle peitetarinan."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-11"
"episode-10822"
0
"Voiko Lauren nukuttaa minut?"
"Voiko Lauren laittaa minut nukkumaan?"
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-12"
"episode-05041"
0
"Liekit päälle!"
"Roihu päälle!"
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-13"
"episode-05041"
0
"Olen ollut tämän ajan sinulle vihainen kunnian viemisestä."
"Olen ollut vihainen sinulle, koska yritit ottaa kaiken kunnian, Jimmy."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-14"
"episode-05041"
0
"Olen ollut sinulle vihainen kunnian viemisen yrittämisestä."
"Olen ollut vihainen sinulle, koska yritit ottaa kunnian."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-15"
"episode-02243"
0
"Mitä merkitystä sillä on?"
"Mitä väliä sillä edes on?"
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-16"
"episode-3833"
0
"Ostin juuri luotolla."
"Käytin juuri MasterCardiani."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-17"
"episode-3833"
0
"Ostin juuri luotolla."
"Käytin juuri luottokorttiani."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-18"
"episode-3833"
0
"Etkö muka tunne näitä ihmisiä? Olet samaa perhettä."
"Et tiennyt keitä nämä ihmiset ovat? Sinä avioiduit heihin."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-19"
"episode-3833"
0
"Etkö muka tunne näitä ihmisiä? Olet samaa perhettä."
"Et tiennyt keitä nämä ihmiset ovat vaikka kuulut samaan perheeseen?"
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-20"
"episode-26648"
0
"Sota on rankkaa, haju-poika."
"Sota on helvettiä, haisuli."
"4>s"
[]
"4>s"
"positive"
false
"gem-turku_paraphrase_corpus-train-21"
"episode-19979"
0
"Isäni on putkimies, tekee töitä hullun lailla."
"Isäni on putkimies, tekee niska limassa töitä."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-22"
"episode-03358"
0
"Vakoojani saivat tietää narnien tehtävästä Epsilon-järjestelmään."
"Saimme tietää narnien retkikunnasta."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-23"
"episode-12043"
0
"Annan anteeksi rakkautesi Julianiin."
"Annan anteeksi, että rakastit häntä."
"4>i"
[]
"4>i"
"positive"
false
"gem-turku_paraphrase_corpus-train-24"
"episode-04271"
0
"Raivotauti ei näy verikokeessa."
"Raivotautisuus ei näy verikokeissa."
"4i"
[]
"4i"
"positive"
false
"gem-turku_paraphrase_corpus-train-25"
"episode-04271"
0
"Raivotauti ei näy verikokeessa."
"Raivotautisuus ei näy verikokeessa."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-26"
"episode-07416"
0
"En usko, että hänellä jää töiltään aikaa."
"Ei, en usko, että hänellä on oikein aikaa"
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-27"
"episode-12043"
0
"Minulle on kehittynyt tunteita ihmistä kohtaan, jolla on surkea maku, mutta jota en saa mielestäni."
"Minulle on kehittynyt tunteita erästä naista kohtaan, jolla on erittäin huono maku. Silti en saa häntä mielestäni."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-28"
"episode-12146"
0
"NASAlla on tarkat säännöt liittyen likinäköisyyteen. Ja pilven polttamiseen."
"NASA ei ota likinäköisiä. Eikä pilviveikkoja."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-29"
"episode-12043"
0
"Vaikuttaa todella pahalta tripiltä."
"Sinulla taitaa olla huono trippi."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-30"
"episode-04271"
0
"Ei mitään hätää, rouva Espinoza. Olemme täällä auttamassa."
"Teidän ei tarvitse huolehtia, rouva Espinoza. Olemme täällä auttaaksemme teitä."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-31"
"episode-19979"
0
"Se oli ensimmäinen tähtirooliini."
"Se oli ensimmäinen roolini."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-32"
"episode-10822"
0
"Dale, paljonko maksan sinulle?"
"Dale, paljonkos maksankaan tästä?"
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-33"
"episode-26648"
0
"Parin vuoden kuluttua he aloittavat bändissä, kasvattavat pitkän tukan, varastavat Suburbanisi mennäkseen kiertueelle."
"Pian he perustavat bändin kasvattavat hiuksensa ja vievät auton lähteäkseen keikalle."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-34"
"episode-09215"
0
"Tiesitte joidenkin miesten kiusanneen Lucya, koska hän nosti syytteen."
"Tiesit, että jotkut miehet kiusasivat Lucya ilmoituksen vuoksi."
"4>i"
[]
"4>i"
"positive"
false
"gem-turku_paraphrase_corpus-train-35"
"episode-10822"
0
"Heitetään pihalle omasta teltasta..."
"Lennän ulos omasta teltasta."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-36"
"episode-12121"
0
"Mennään jaloittelemaan."
"Verrytellään vähän jalkoja."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-37"
"episode-04271"
0
"Meidän pitäisi hakea hänen isänsä alakertaan."
"Hänen isänsä pitäisi tuoda tänne!"
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-38"
"episode-09215"
0
"Mutta sinä aamuna Lucy sanoi minun mokanneen, että olin ottanut liian vähän ja Lucy oli väärässä."
"Sinä aamuna Lucy väitti, että olin unohtanut ottaa yhden, vaikka en ollut."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-39"
"episode-07416"
0
"Seksuaalirikokset ovat harvassa."
"Täällä ei juuri ole seksirikoksia"
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-40"
"episode-10822"
0
"Montako kertaa olen sanonut, että et syötä hänelle sokeria!"
"Kuinka monta kertaa olen sanonut, ettet pumppaisi häntä täyteen sokeria."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-41"
"episode-03358"
0
"Jos minbarit haluavat viimeistellä meidät, antaa heidän tulla luoksemme."
"Tulkoot lähemmäs jos haluavat listiä meidät."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-42"
"episode-09215"
0
"Pelastusyksikkö, vastatkaa tilanteeseen heti."
"Kaikki ensiapuhenkilöt paikalle välittömästi."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-43"
"episode-12121"
0
"Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi."
"He laittavat itsensä likoon saamatta mitään vastineeksi."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-44"
"episode-12121"
0
"Kaupungista kaupunkiin he antavat kaikkensa lähes ilmaiseksi."
"He laittavat itsensä likoon kaupungista toiseen saamatta lähes mitään vastineeksi."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-45"
"episode-08670"
0
"Minulle lobotomia on ontelon täyttöön verrattavaa rutiinia."
"Minun käsissäni transorbitaalista lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-46"
"episode-08670"
0
"Minulle lobotomia on hampaan paikkaamiseen verrattavaa rutiinia."
"Minun käsissäni lobotomiasta on tullut rutiinia kuten hampaanreiän täyttämisestäkin."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-47"
"episode-08670"
0
"Luotan vaistooni. Vaisto kertoo kaiken."
"Minä luotan vaistoihini. Vaistot ovat kaikki."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-48"
"episode-03358"
0
"Tiedän. Se oli välttämätöntä."
"Tiedän, oli pakko."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-49"
"episode-19979"
0
"Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä?"
"Huomenna kello 20. Tapaan sinut siellä. Selvä?"
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-50"
"episode-19979"
0
"Se on kahdeksalta huomenillalla. Tapaamme siellä, selvä?"
"Se on huomenna kello 20. Tapaamme siellä. Selvä?"
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-51"
"episode-46322"
0
"Työskentelin eräälle jahtejen valmistajalle mantereella, mutta ei kestänyt kauan minulta tajuta En halua viettää lopun elämääni toisten unelmien totettamisella."
"Työskentelin huvipursien valmistajalle mantereella, mutta tajusin nopeasti, etten halunnut viettää loppuelämääni toisten unelmien toteuttamiseen."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-52"
"episode-26648"
0
"Senkö takia heitit maalipommin päin omaa leirikaveriasi?"
"Siksikö heitit värikranaatin omaa leiriläistäsi kohtaan?"
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-53"
"episode-11837"
0
"Kiitos pelastuksesta."
"Kiitos kun tulit hakemaan minut."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-54"
"episode-03358"
0
"Hän voi vahvistaa heidän olevan minbareja ja voi olla avuksi, jos asiat menevät huonosti."
"Hän varmistaa, että edustajat ovat minbareja ja auttaa hätätilanteessa."
"4<s"
[]
"4<s"
"positive"
false
"gem-turku_paraphrase_corpus-train-55"
"episode-08670"
0
"Hän on suloinen pikku poika, mutta hänellä on koliikki. Hän itkee 5-6 kertaa yössä."
"Hän on suloinen pieni poika, mutta hänellä on koliikki. Hän itkee viisi, kuusi kertaa yössä."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-56"
"episode-09215"
0
"Jokin tässä jutussa mättää. Mikä niin?"
"Jokin tässä mättää. Mikä?"
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-57"
"episode-03143"
0
"Te maalaiset palvotte julkkiksia sellaisella kiihkeydellä että voin elää yksinkertaisesti lypsämällä ihailuanne."
"Te palvotte julkisuutta niin hurmoksessa, että voin elää lypsämällä ihailuanne."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-58"
"episode-03727"
0
"Kun kirous on peruttu, olen kuin muutkin."
"Kun kirous purkautuu, minusta tulee normaali."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-59"
"episode-12043"
0
"Tilanne on riistäytynyt käsistä."
"Mopo on lähtenyt käsistä."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-60"
"episode-08670"
0
"Maksanko teille tästä? Ei, ei. En tee tätä rahan takia. Kyse on kutsumuksesta."
"Maksanko teille tästä? Ei, ei. En tee tätä rahasta. Se on enemmänkin kutsumus."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-61"
"episode-04271"
0
"Hei, mitä tapahtuu? Miksi emme voi lähteä?"
"Mitä on meneillään? Miksemme voi lähteä?"
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-62"
"episode-99701"
0
"Miksi menit ja pilasit sen?"
"Miksi sinun piti pilata se?"
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-63"
"episode-99701"
0
"Voinko heittää pois sinun laihdutussafkasi?"
"Voinko heittää nämä pupun ruuat pois?"
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-64"
"episode-99701"
0
"Voinko heittää pois sinun laihdutussafkasi?"
"Voinko heittää sinun laihdutukseen käyttämät pupun ruuat pois?"
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-65"
"episode-03358"
0
"Toimme ihmiset luoksenne, mikäli haluatte kuulustella heitä ennen teloitusta."
"Toimme ihmiset kuulusteltaviksi ennen teloitustaan."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-66"
"episode-10822"
0
"En treffaile enää."
"Ei treffejä minulle."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-67"
"episode-12121"
0
"Hän teki väärän valinnan."
"Hän teki huonon päätöksen."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-68"
"episode-03143"
0
"Tuijota tätä kuvaa itsestäsi"
"Katso kuvaasi"
"4>s"
[]
"4>s"
"positive"
false
"gem-turku_paraphrase_corpus-train-69"
"episode-09215"
0
"Nähdään vajaan tunnin päästä. Tule ajoissa."
"Nähdään tunnin sisällä. Älä myöhästy."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-70"
"s24-t2682"
0
"kuinkas kävikään kaikista varoituksista huolimatta. Romutettiin hyvä linjavaalisysteemi , henkilökuntakuljetukset lopetettiin ja monta muuta."
"Linjavaalit ja henkilökuntakuljetukset ym lakkautettiin säästöihin vedoten sekä monta muutakin ja kuinkas kävikään."
"2"
[]
"2"
"negative"
false
"gem-turku_paraphrase_corpus-train-71"
"episode-46322"
0
"Mitä oikein hommaat?"
"Mitä sinä teet?"
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-72"
"not available"
0
"Puolustusvoimien nimissä on lähetetty huijausviestejä, joissa kehotetaan saapumaan palvelukseen Lähi-idän tilanteen vuoksi"
"Puolustusvoimien nimissä on lähetetty huijausviestejä"
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-73"
"episode-12121"
0
"Demonien on pidettävä huolta itsestään."
"Jokainen demoni pelastakoon itsensä."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-74"
"episode-99701"
0
"Ei onnaa mutsi."
"Ei voi mitään, äiti."
"4s"
[]
"4s"
"positive"
false
"gem-turku_paraphrase_corpus-train-75"
"episode-02243"
0
"Olemme saavuttaneet hienon voiton."
"Saavutimme tänään suuren voiton, vanha ystävä."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-76"
"episode-09215"
0
"Se tunnollinen typerys."
"Se tarkkasilmäinen tollo."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-77"
"s24-t4618"
0
"Haluaisin opiskella puutarhuriksi oppisopimuksella."
"Itse olisin kiinnostunut, mutta puutarha-ala ei taida olla hirveän kovassa huudossa täällä päin..."
"2"
[]
"2"
"negative"
false
"gem-turku_paraphrase_corpus-train-78"
"s24-t4618"
0
"Haluaisin opiskella puutarhuriksi oppisopimuksella. Mutta en usko, että kysyntää on täällä puutarha-alalla kovinkaan paljon..."
"Itse olisin kiinnostunut oppisopimuksesta opiskella puutarhuriksi, mutta puutarha-ala ei taida olla hirveän kovassa huudossa täällä päin..."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-79"
"s24-t2465"
0
"Sekä perhettä luodessa muokattava sim seisoo takana takaseinän vieressä ja pyörittäessä ympäri menee kuva sen rakennuksen ulkopuolelle??"
"tai perhettä luodessa sim seisoo muutamia askelia liian takana, aivan perä seinässä kiinni ja yrittäessä kääntää sitä, menee kuva kokonaan rakennuksen ulkopuolelle"
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-80"
"news-001860045b0b01b"
0
"mikäli maan pääministeriksi nousee todennäköisin vaihtoehto eli Boris Johnson"
"jos Boris Johnsonista tulee pääministeri"
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-81"
"news-001860045b0b01b"
0
"mikäli maan pääministeriksi nousee Boris Johnson"
"jos Boris Johnsonista tulee pääministeri"
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-82"
"s24-t342"
0
"Kaikkein heikoimmassa asemassa olevia teurastetaan taas urakalla."
"Kaikkein heikoimmassa asemassa olevien ihmisten teurastus jatkuu."
"4s"
[]
"4s"
"positive"
false
"gem-turku_paraphrase_corpus-train-83"
"s24-t1777"
0
"Itse olen 24vuotias Jyväskyläläis neitokainen joka taistelee reilun 10kg painonpudotusurakan kanssa."
"Itse olen 24vuotias tyttönen Jyväskylästä. Laihdutettavaa olisi n.10kg."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-84"
"s24-t1777"
0
"Itse olen 24vuotias Jyväskyläläis neitokainen joka taistelee noin 10kg painonpudotusurakan kanssa."
"Itse olen 24vuotias tyttönen Jyväskylästä. Laihdutettavaa olisi n.10kg."
"4"
[]
"4"
"positive"
true
"gem-turku_paraphrase_corpus-train-85"
"episode-10626"
0
"Et näe halluja kuten asemalla."
"Et näe näkyjä."
"4>s"
[]
"4>s"
"positive"
false
"gem-turku_paraphrase_corpus-train-86"
"episode-26648"
0
"Koska yrityksellä ei ole asiakkaita eikä näin ollen havaittavissa tulojakaan pankilla ei ole muuta vaihtoehtoa kuin pakkolunastaa omaisuus."
"Koska asiakkaita ei ole eikä siten näkyviä tuloja pankin ei auta muu kuin ulosmitata kiinteistö."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-87"
"episode-19979"
0
"Hullua. Ihmiset vain antavat minulle tavaraa, autoja ja vaatteita. Kaikki tavara autossani. Kaikki Reebookin kama. Ilmaista."
"Se on hullua. Ihmiset vain antavat minulle tavaraa. Autoja, vaatteita. Kaikki ne Reebokit autossani? Ilmaistavaraa."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-88"
"episode-03358"
0
"Osa heidän hallituksestaan haluaa tapaamisen, jossa etsitään tapaa lopettaa sota, johon ei sisälly Maan tuhoutuminen."
"Jotkut heistä tahtovat kuulemma irti sodasta ilman että Maa tuhotaan."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-89"
"episode-46322"
0
"Kun olette täällä, haluatteko käydä yö sukeltamassa?"
"Haluaisitteko täällä ollessanne tehdä yösukellusta?"
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-90"
"episode-03358"
0
"Kiitos kun väittelit kanssani."
"Hyvä että pistitte minulle hanttiin."
"4>i"
[]
"4>i"
"positive"
false
"gem-turku_paraphrase_corpus-train-91"
"episode-09215"
0
"Väärensitte reseptejä ja möitte lääkkeitä pimeästi käteistä vastaan."
"Kirjoitit valereseptejä ja myit lääkkeet pimeästi."
"4>i"
[]
"4>i"
"positive"
false
"gem-turku_paraphrase_corpus-train-92"
"episode-03727"
0
"Soitat pianoa, panen pääni pantiksi siitä."
"Soitat pianoa. Lyön vaikka vetoa siitä."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-93"
"episode-3833"
0
"Älä pilaa tätä 20 minuutin takia, Valerie."
"Älä anna 20 minuuttia olla esteenä sille, mitä yritän tehdä."
"3"
[]
"3"
"positive"
false
"gem-turku_paraphrase_corpus-train-94"
"episode-10822"
0
"Siellä voi olla tappavia gorilloja."
"Tuolla voi olla verenhimoisia gorilloja."
"4i"
[]
"4i"
"positive"
false
"gem-turku_paraphrase_corpus-train-95"
"episode-10822"
0
"Pidä hauskaa lomallani."
"Toivottavasti lomallani on hauskaa."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-96"
"episode-12121"
0
"Kippis."
"Pohjanmaan kautta."
"4"
[]
"4"
"positive"
false
"gem-turku_paraphrase_corpus-train-97"
"episode-12121"
0
"En olisi voinut järjestää tätä kaikkea ilman ihanaa, lahjakasta Simmonsia."
"Ihana, lahjakas Simmons oli tietysti korvaamaton apu."
"4>"
[]
"4>"
"positive"
false
"gem-turku_paraphrase_corpus-train-98"
"episode-19979"
0
"Kosto kuuluu tarjoilla kylmänä."
"Kosto on lajike, joka kuuluu tarjoilla kylmänä, ystäväiseni."
"4<"
[]
"4<"
"positive"
false
"gem-turku_paraphrase_corpus-train-99"
"episode-12146"
0
"Aaltoratsastajalle jäänyt miehistö on luultavasti jo kuollut, ja kuka tietää, mitä professori Steinille tapahtui."
"Ystävämme lienevät kuolleet ja ties missä Stein on."
"3"
[]
"3"
"positive"
false
End of preview (truncated to 100 rows)

Dataset Card for GEM/turku_paraphrase_corpus

Link to Main Data Card

You can find the main data card on the GEM Website.

Dataset Summary

This is a Finnish paraphrase corpus which consists of pairs of text passages, where a typical passage is about a sentence long. It can be used to either identify or generate paraphrases.

You can load the dataset via:

import datasets
data = datasets.load_dataset('GEM/turku_paraphrase_corpus')

The data loader can be found here.

website

Website

paper

ACL Anthology

authors

Jenna Kanerva, Filip Ginter, Li-Hsin Chang, Iiro Rastas, Valtteri Skantsi, Jemina Kilpeläinen, Hanna-Mari Kupari, Aurora Piirto, Jenna Saarni, Maija Sevón, Otto Tarkka (TurkuNLP / University of Turku)

Dataset Overview

Where to find the Data and its Documentation

Webpage

Website

Download

Github

Paper

ACL Anthology

BibTex

@inproceedings{kanerva-etal-2021-finnish,
    title = {Finnish Paraphrase Corpus},
    author = {Kanerva, Jenna and Ginter, Filip and Chang, Li-Hsin and Rastas, Iiro and Skantsi, Valtteri and Kilpel{\"a}inen, Jemina and Kupari, Hanna-Mari and Saarni, Jenna and Sev{\'o}n, Maija and Tarkka, Otto},
    booktitle = {Proceedings of the 23rd Nordic Conference on Computational Linguistics (NoDaLiDa'21)},
    year = {2021},
    publisher = {Link{\"o}ping University Electronic Press, Sweden},
    url = {https://aclanthology.org/2021.nodalida-main.29},
    pages = {288--298}
}

Contact Name

Jenna Kanerva, Filip Ginter

Contact Email

jmnybl@utu.fi, figint@utu.fi

Has a Leaderboard?

no

Languages and Intended Use

Multilingual?

no

Covered Dialects

written standard language, spoken language

Covered Languages

Finnish

License

cc-by-sa-4.0: Creative Commons Attribution Share Alike 4.0 International

Intended Use

Paraphrase classification, paraphrase generation

Primary Task

Paraphrasing

Communicative Goal

The corpus provides naturally occurring Finnish paraphrases striving for low lexical overlap, thus supporting many different downstream applications requiring language understanding.

Credit

Curation Organization Type(s)

academic

Curation Organization(s)

University of Turku

Dataset Creators

Jenna Kanerva, Filip Ginter, Li-Hsin Chang, Iiro Rastas, Valtteri Skantsi, Jemina Kilpeläinen, Hanna-Mari Kupari, Aurora Piirto, Jenna Saarni, Maija Sevón, Otto Tarkka (TurkuNLP / University of Turku)

Funding

The Turku paraphrase corpus project was funded by the Academy of Finland, as well as the European Language Grid project through its open call for pilot projects. The European Language Grid project has received funding from the European Union’s Horizon 2020 Research and Innovation programme under Grant Agreement no. 825627 (ELG).

Who added the Dataset to GEM?

Jenna Kanerva, Filip Ginter (TurkuNLP / University of Turku)

Dataset Structure

Data Fields

The dataset consist of pairs of text passages, where a typical passage is about a sentence long, however, a passage may also be longer or shorter than a sentence. Thus, each example include two text passages (string), a manually annotated label to indicate the paraphrase type (string), and additional metadata.

The dataset include three different modes, plain, classification, and generation. The plain mode loads the original data without any additional preprocessing or transformations, while the classification mode directly builds the data in a form suitable for training a paraphrase classifier, where each example is doubled in the data with different directions (text1, text2, label) --> (text2, text1, label) taking care of the label flipping as well if needed (paraphrases with directionality flag < or >). In the generation mode, the examples are preprocessed to be directly suitable for paraphrase generation task. In here, paraphrases not suitable for generation are discarded (negative, and highly context-dependent paraphrases), and directional paraphrases are provided so that the generation goes from more detailed passage to the more general one in order to prevent model hallucination (i.e. model learning to introduce new information). The rest of the paraphrases are provided in both directions (text1, text2, label) --> (text2, text1, label).

Each pair in plain and classification mode will include fields:

gem_id: Identifier of the paraphrase pair (string) goeswith: Identifier of the document from which the paraphrase was extracted, can be not available in case the source of the paraphrase is not from document-structured data (string) fold: 0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold (int) text1: First paraphrase passage (string) text2: Second paraphrase passage (string) label: Manually annotated labels (string) binary_label: Label turned into binary with values positive (paraphrase) and negative (not-paraphrase) (string) is_rewrite: Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)

Each pair in generation mode will include the same fields expect text1 and text2 are renamed to input and output in order to indicate the generation direction. Thus the fields are:

gem_id: Identifier of the paraphrase pair (string) goeswith: Identifier of the document from which the paraphrase was extracted, can be not available in case the source of the paraphrase is not from document-structured data (string) fold: 0-99, data split into 100 parts respecting document boundaries, you can use this e.g. to implement crossvalidation safely as all paraphrases from one document are in one fold (int) input: The input paraphrase passage for generation (string) output: The output paraphrase passage for generation (string) label: Manually annotated labels (string) binary_label: Label turned into binary with values positive (paraphrase) and negative (not-paraphrase) (string) is_rewrite: Indicator whether the example is human produced rewrite or naturally occurring paraphrase (bool)

Example Instance

{
  'gem_id':  'gem-turku_paraphrase_corpus-train-15',
  'goeswith': 'episode-02243',
  'fold': 0,
  'text1': 'Mitä merkitystä sillä on?',
  'text2': 'Mitä väliä sillä edes on?',
  'label': '4',
  'binary_label': 'positive',
  'is_rewrite': False
}

Data Splits

The corpus include 3 splits: train, validation, and test.

Splitting Criteria

The data is split randomly into the three section with a restriction of all paraphrases from the same document (movie, TV episode, news article, student translation, or exam question) being in the same section. All splits are manually annotated.

Dataset in GEM

Rationale for Inclusion in GEM

Why is the Dataset in GEM?

This dataset provides a large amount of high quality (manually collected and verified) paraphrases for Finnish.

Similar Datasets

yes

Unique Language Coverage

no

Ability that the Dataset measures

natural language understanding, language variation

GEM-Specific Curation

Modificatied for GEM?

yes

GEM Modifications

data points modified

Modification Details

Data structure is slightly simplified, and the release provides ready made transformations into two tasks (paraphrase classification and generation), where some data instances are doubled with different direction, and some are discarded as not being suitable for generation (e.g. negatives).

Additional Splits?

no

Getting Started with the Task

Previous Results

Previous Results

Measured Model Abilities

natural language understanding, language variation

Previous results available?

yes

Other Evaluation Approaches

F-score in paraphrase classification

Dataset Curation

Original Curation

Original Curation Rationale

The dataset is fully manually annotated. The dataset strives for interesting paraphrases with low lexical overlap, thus the annotation is two fold. First the paraphrases are manually extracted from two related documents, where the annotators are instructed to extract only interesting paraphrases. In the second phrase, all extracted paraphrases are manually labeled given the annotation scheme.

The annotation scheme is: 4 : paraphrase in all reasonably possible contexts 3 : paraphrase in the given document contexts, but not in general 2 : related but not paraphrase During annotation also labels 1 (unrelated) and x (skip, e.g. wrong language) were used, however, the insignificant amount of examples annotated with these labels were discarded from the released corpus.

The following flags are annotated to label 4 paraphrases: < : txt1 is more general than txt2; txt2 is more specific than txt1 (directional paraphrase where txt2 can be replaced with txt1 in all contexts but not to the other direction)

: txt2 is more general than txt1; txt1 is more specific than txt2 (directional paraphrase where txt1 can be replaced with txt2 in all contexts but not to the other direction) i : minor traceable difference (differing in terms of grammatical number or case, 'this' vs 'that', etc.) s : style or strength difference (e.g. equivalent meaning, but one of the statements substantially more colloquial than the other)

For paraphrases where the annotated label was something else than label 4 without any flags, the annotators had an option to rewrite the text passages so that the rewritten paraphrase pair formed label 4 (universal) paraphrase. This was used for cases where simple edit would turn e.g. contextual or directional paraphrase into universal one. For the rewritten examples, both the original and the rewritten pairs are available with corresponding labels annotated.

Communicative Goal

Representing text passages with identical meaning but different surface realization.

Sourced from Different Sources

yes

Source Details

movie and TV series subtitles (82%) news articles (9%) discussion forum messages (8%) university translation exercises (1%) university course essays and exams (<1%)

Language Data

How was Language Data Obtained?

Found, Other

Where was it found?

Multiple websites, Offline media collection, Other

Language Producers

The movie and TV series subtitles are extracted from OPUS OpenSubtitles2018 collection, which is based on data from OpenSubtitles. The news articles are collected from two Finnish news sites, YLE and HS, during years 2017-2020. Discussion forum messages are obtained from the Finnish Suomi24 discussion forum released for academic use (http://urn.fi/urn:nbn:fi:lb-2020021801). University translation exercises, essays and exams are collected during the project.

Data Validation

validated by data curator

Was Data Filtered?

not filtered

Structured Annotations

Additional Annotations?

expert created

Number of Raters

2<n<10

Rater Qualifications

Members of the TurkuNLP research group, native speakers of Finnish, each annotator has a strong background in language studies by having an academic degree or ongoing studies in a field related to languages or linguistics.

Raters per Training Example

1

Raters per Test Example

1

Annotation Service?

no

Annotation Values

  1. Manual extraction of interesting paraphrases from two related documents.
  2. Manual labeling of each extracted paraphrase based on the given annotation scheme, e.g. distinguishing contextual and universal paraphrases, marking style or strength differences, etc.

Any Quality Control?

validated by another rater

Quality Control Details

Partial double annotation, double annotation batches are assigned regularly in order to monitor annotation consistency. In double annotation, one annotator first extracts the candidate paraphrases, and these candidates are assigned to two different annotators, who does the label annotation independently from each other. Afterwards, the label annotations are merged, and conflicting labels are resolved together with the whole annotation team.

Consent

Any Consent Policy?

yes

Consent Policy Details

The corpus is mostly based on public/open data. For other data sources (student material), the licensing was agreed with the data providers during the collection.

Private Identifying Information (PII)

Contains PII?

likely

Categories of PII

generic PII

Any PII Identification?

no identification

Maintenance

Any Maintenance Plan?

no

Broader Social Context

Previous Work on the Social Impact of the Dataset

Usage of Models based on the Data

no

Impact on Under-Served Communities

Addresses needs of underserved Communities?

no

Discussion of Biases

Any Documented Social Biases?

no

Considerations for Using the Data

PII Risks and Liability

Potential PII Risk

None

Licenses

Copyright Restrictions on the Dataset

open license - commercial use allowed

Copyright Restrictions on the Language Data

open license - commercial use allowed

Known Technical Limitations

Edit dataset card
Evaluate models HF Leaderboard