Dataset Preview Go to dataset viewer
orig_id (int)source (string)reference (string)
0
Profesör 911'i Arayarak Kız Arkadaşını Öldürdüğünü İtiraf Etti
In 911 Call, Professor Admits to Shooting Girlfriend
3
Polisler evde Amy Prentiss'in cansız bedenini ve beyaz bir not defterine el yazısıyla yazılmış bir not buldu: "Çok üzgünüm, keşke her şeyi geri döndürebilsem, Amy'yi çok sevmiştim ve o da bugüne kadar beni seven tek kadındı" okunan notu Lamb'in imzaladığını belirtti memurlar.
Inside the home, officers found Amy Prentiss' body and a hand-written note scribbled on a white legal pad: "I am so very sorry I wish I could take it back I loved Amy and she is the only woman who ever loved me," read the letter authorities say was signed by Lamb.
10
Öğrenciler onun dersine girmeyi dört gözle beklediklerini söyledi.
Students said they looked forward to his class.
14
Bununla birlikte, ruhsal sorunlar olduğuna yönelik işaretler de vardı.
At the same time, there were some inclinations of problems.
21
Bunlar artık Lamb'in yanıtlayamayacağı sorular.
Those are questions Lamb can no longer answer.
26
Lamb bu bölgede büyümüştü.
Lamb grew up in the area.
28
İlkbaharda eğitim alanında doktorasını almıştı.
He received a doctorate in education in the spring.
31
Carla ile arkadaşları lisedeydi ve Lamb de birkaç yıl gitar çalmayı öğretmeye çalışan, kendinden büyük hoş biriydi.
She and her friends were in high school, and he was the cool older guy who tried for several years to teach her to play guitar.
35
911 çağrısında Lamb "Karımı öldürdüm" dediyse de evlendiklerine dair resmi bir kayıt yok.
In the 911 call, Lamb said "I killed my wife," but there was no record of them ever marrying.
37
Polis köpeğin durumunun iyi olduğunu belirtti.
Police said the dog was OK.
40
O ve annesi harika iki arkadaştı.
She and her mother were absolutely best friends.
41
O'Steen Lamb ile hiç tanışmadığını ancak kızı Abigail'den Lamb'in müzikle ilgilendiğini ve blues çaldığını duyduğunu söyledi.
O'Steen said he had not met Lamb but heard through his daughter Abigail that Lamb was interested in music and played the blues.
44
O'Steen, kızının müziğini kendi yazdığını ve söylediğini belirtti.
O'Steen said his daughter writes and sings her own music.
45
Prentiss çeşitli çevrimiçi şirketlerde çalışan bir hemşireydi.
Prentiss was a nurse who worked for various companies online.
50
Her ikisinin de harika bir espri anlayışları vardı.
I mean, they both had a good sense of wit about them.
52
O evliydi ve üç genç çocuğu vardı.
He was married and had three young children.
53
Kansas'taki Emporia Eyalet Üniversitesi'nden mezun oldu ve , kendi kurduğu bir öğrenci dayanışma grubunun da başkanıydı.
He studied at Emporia State University in Kansas and was president of his fraternity and student government.
56
Sınıflar Çarşamba günü devam ediyor.
Classes resume Wednesday.
57
LaForge, "Öğrencilerimizi yeniden geri getirmeye çalışıyoruz" dedi.
"We're trying to get our students to come back," LaForge said.
58
Kriz sona erdi.
The crisis is over.
60
Amy ve Rogelio Solis, Cleveland, Mississippi'den bildirdi.
Amy and Rogelio Solis reported from Cleveland, Mississippi.
63
Toys R Us Daha Az Tatil Sezonu Elemanı Almayı Planlıyor
Toys R Us Plans to Hire Fewer Holiday Season Workers
65
Şirket, ülke çapındaki mağaza ve dağıtım merkezlerinde 40.000 kişiyi işe almayı planladığını belirtti, 2014 tatil sezonunda bu rakam 45.000 idi.
The company said it plans to hire 40,000 people to work at stores and distribution centers around the country, down from the 45,000 hired for the 2014 holiday season.
66
İşlerin çoğu yarı zamanlı olacak.
Most of the jobs will be part-time.
71
Kişisel sebeplerden dolayı da oldukça önemliydi.
It was noteworthy because of personal reasons, too.
72
O, yeni vizyona girecek olan belgesel Back in Time'ın fragmanında bunu şöyle anlatıyor: "Sinema salonunda oturmuş Kraliyet Ailesi üyelerinin gelmesini bekliyorduk ve birden yanımdaki koltuğun boş olduğunu fark ettim ve yanıma Prenses Diana'nın oturacağını anladım.
"We were sitting in the theater waiting for the royals to come in and I realize that the seat next to me is empty, and it dawns on me that Princess Diana is going to be sitting next to me," he said in a trailer for an upcoming documentary, "Back in Time."
78
UN Chief Says There Is No Military Solution in Syria
UN Chief Says There Is No Military Solution in Syria
84
Donald Trump'un Ciddi Olduğunu Gösteren 8 Anket Rakamı
8 Poll Numbers That Show Donald Trump Is For Real
85
Bazıları onu yanardöner olarak etiketlemeye çalıştı.
Some have tried to label him a flip-flopper.
90
Elbette seçim döngüsünde henüz erken.
Of course, it's still early in the election cycle.
91
Bunların hiçbirisi Trump'un Cumhuriyetçilerin aday yarışını kazanabileceği anlamına gelmiyor.
None of this is to say that Trump is likely to win the Republican nomination.
94
Ancak Jeb Bush'un Süper PAC grubu ve ekonomik muhafazakar grup olan Büyüme Kulübü gibi dış gruplar Trump'un kalıcı gücünün farkına varıyorlar ve onu devirmek için dolarlarını harcamaya başlıyorlar.
But outside groups like Jeb Bush's Super PAC and the economic conservative group Club for Growth are recognizing Trump's staying power and beginning to unload their dollars to topple him.
98
Temmuz ayının ortasında bu oran yüzde 40'tı.
By mid-July, it was 40 percent.
101
Kabaca 10'u içinden üç tanesi olumsuz görüşü olduğunu ifade ediyor.
Roughly three in 10 say they have a negative view.
104
GOP seçmenlerinin üçte ikisi Trump adaylığından memnun olabilirler.
Two-thirds of GOP voters would be happy with Trump as the nominee.
109
Sadece yüzde 21 oranla Marco Rubio.
Marco Rubio with only 21 percent.
111
Cumhuriyetçilerin çoğunluğu Trump'un mizacını bir problem olarak görmüyor.
A majority of Republicans don't see Trump's temperament as a problem.
115
Cumhuriyetçi seçmenler bu fikre alışmaya başlıyor.
Republican voters are getting used to the idea.
119
Tam ifşaat: Geçmişte, GOP seçmenlerinin kristal küresi pek net değildi.
Full disclosure: GOP voters haven't had the clearest crystal ball in the past.
122
Cumhuriyetçiler başka bir aday etrafında toplansalar bile Trump hâlâ neredeyse herkesi yeniyor.
Even if Republicans rallied around another candidate, Trump still beats almost everyone.
127
Onu yenebilen tek aday?
The only candidate who beats him?
130
Salı günü yayınlanmış olan yeni bir CBS/NYT anketi, Trump'u destekleyen seçmenlerin yarısından fazlasının oylarını kilitlediklerini söylediklerini gösteriyor.
A new CBS/NYT poll out on Tuesday shows that just more than half of voters who support Trump say they have locked in their votes.
131
Açıkcası, bunu değiştirmek için çok şey meydana gelebilir ve hiç kimse gerçekten fikrini değiştirmeyeceğini söyleyemez.
Obviously, a lot can happen to change that, and no one can really say they would never change their mind.
132
Yüzde 46 aday değiştirmek için kapıyı açık bıraktıklarını söyledi.
46 percent said they are leaving the door open to switching candidates.
134
10 Cumhuriyetçiden altısı göçmenlik konusunda Trump ile aynı fikirde olduğunu söylüyor.
Six in 10 Republicans say they agree with Trump on immigration.
138
Yani göçmenlik konusu gündemde kaldığı sürece Trump da gündemde kalacak gibi görünüyor.
So as long as immigration remains in the spotlight, it seems Donald Trump will remain too.
144
Başbakanın Sorularında Jeremy Corbyn ilk kez kürsüye çıkacak
Jeremy Corbyn to make debut at Prime Minister's Questions
146
Yeni İşçi Partisi lideri Jeremy Corbyn, ilk defa David Cameron'dan sonra Başbakanın Sorularında kürsüye çıkacak.
New Labour leader Jeremy Corbyn is to make his debut at Prime Minister's Questions later, taking on David Cameron for the first time.
147
Bay Corbyn öğleden kısa bir süre sonra altı soru soracak, ve performansı medya ve İşçi Partisi Milletvekilleri tarafından yakından inceleneceğe benziyor.
Mr Corbyn will rise to ask the first of his six allotted questions shortly after midday, with his performance likely to be closely scrutinised by the media and Labour MPs.
152
Bay Corbyn'in milli marşa eşlik etmeme kararı dikkat çekti
Mr Corbyn's decision not to sing the national anthem has attracted attention
166
'Joburg'da çekildi': Evsiz gençler fotoğrafçılık eğitimi alıyor
'Shot in Joburg': Homeless youth trained as photographers
171
Hikaye, fotoğraf ve videolarınızı BBC News ile nasıl paylaşırsınız
How to share your stories, pictures and videos with BBC News
172
BBC News olarak dünyanın her yerinde yaşanan olayları TV, radyo ve internet yoluyla her gün sizlere getiriyoruz ancak sizi ilgilendiren olayları da öğrenmek istiyoruz.
Every day BBC News - on TV, on radio and online - brings you the latest stories from across the globe... but what we want to hear are the issues that matter to you.
173
Haber yapmada sizin oynadığınız rol çok önemli.
The part you play in making the news is very important.
174
İster bir son dakika haberi ister özel haber olsun, yapacağınız katkı önemli bir fark yaratabilir.
Whether it is breaking news or a featured item, your contribution can make a difference.
177
Anlatacak bir hikayeniz veya takip etmemiz gerektiğini düşündüğünüz bir şey mi var?
Have you got a story to tell or is there something you think we should follow up?
178
Tüm dünyanın konuşmasını istediğiniz haberleriniz mi var?
Are there topics you want to get the world talking about?
179
Hangi konularda yorum yapmak istiyorsunuz?
What do you want to comment on?
180
Veya başkalarının neler hakkında konuştuğunu mu öğrenmek istiyorsunuz?
Or do you want to find out what others are talking about?
181
BBC'ye içerik göndermekle ilgili hüküm ve koşullar.
Terms and conditions for sending contributions to the BBC.
182
Katkılarınızı bize şu farklı yollarla gönderebilirsiniz:
Here are the different ways to send in your contributions:
183
Bize Twitter'dan ulaşın
Contact us on Twitter
184
Tweet'lerinizi, Twitter kullanıcı adınızı görüntüleyerek BBC haberlerinde yayınlayabiliriz.
We may use your tweets displaying your Twitter username on BBC output.
185
Bize WhatsApp'tan mesaj atın
Message us on WhatsApp
186
Fotoğraf, mesaj veya videolarınızı bize +44 7525 900971 WhatsApp numaramıza gönderebilirsiniz
Send us a picture, video or message to our WhatsApp number +44 7525 900971
187
Bazı durumlarda mesajınız ve gönderdiğiniz görseller BBC yayınlarında kullanılabilir.
In some cases your text, as well as your images, may be used on BBC output.
188
Adınızı bize belirttiğiniz şekilde yayınlayacak (aksini talep etmediğiniz takdirde) ancak telefon numaranızı asla yayınlamayacağız.
We will publish your name as you provide it (unless you ask us not to) but we will never publish your mobile phone number.
189
Fotoğraf ve videolarınızı veya 61124'e SMS gönderebilirsiniz.
You can send us your pictures and videos or an SMS to 61124.
190
Birleşik Krallık dışındaysanız bunları +44 7624 800 100 numaralı uluslararası numaraya gönderebilirsiniz.
Or if you are outside the UK, send them to the international number +44 7624 800 100.
191
BBC News uygulamasını iOS veya Android işletim sistemli aygıtlarınıza indirebilir, uygulamadaki ilgili butonları kullanarak görüntü veya içeriklerinizi bize gönderebilirsiniz.
You can download the BBC News app on iOS or Android devices and send us images or contributions using the buttons in the app.
192
Hikaye ve yorumlarınızı haveyoursay@bbc.co.uk e-posta adresimize bekliyoruz
Email your stories and comments to haveyoursay@bbc.co.uk
193
Tüm e-postalarınızı okumaya çalışıyoruz ancak her gün çok sayıda e-posta alıyor olmamız nedeniyle bunların herkese tek tek yanıt vermek herzaman mümkün değil.
We aim to read all of your emails but due to the numbers we receive each day it is not always possible to reply to everyone individually.
195
Gönderdiğiniz materyali BBC programlarında veya internette yayınladığımız takdirde adınızı bize iletmiş olduğunuz gibi yayınlayacak (aksini talep etmediğiniz takdirde) ancak e-posta adresinizi asla yayınlamayacağız.
If we use your material on BBC programmes or online we will publish your name as you provide it (unless you ask us not to) but we will never publish your email address.
196
Video ve fotoğraflarınızı da gönderebilirsiniz.
You can also upload your video or pictures.
197
Bizden aksini talep etmediğiniz takdirde adınızı bize belirtmiş olduğunuz gibi yayınlayacağız.
We will publish your name as you provide it, unless you ask us not to.
198
Birleşik Krallık'taki ücret artışlarının hızlanmasıyla sterlin yükseliyor
Pound rises as UK wage growth accelerates
203
FTSE 100 Endeksi ise %1,49'luk artışla 6.229,21 puana yükseldi.
The FTSE 100 index closed up 1.49% to 6,229.21.
206
Burberry hisseleri rakip lüks perakendecilik grubu Richemont'tan gelen olumlu kâr haberlerinin etkisiyle %0,9 yükseldi.
Burberry shares were 0.9% higher following encouraging news from rival luxury goods group Richemont.
207
Richemont'un güncel satış rakamları, beklentilerin üstüne çıkmasının yanı sıra Burberry için kilit pazarlardan biri olan Çin'de satışların tekrar artmaya başladığını da gösterdi.
Richemont's latest sales figures beat expectations and also showed that sales in China - a key market for Burberry - had begun to grow again.
210
JD Sports'un hissesi şirketin altı aylık vergi öncesi kârının %83'lük bir artışla 46,6 milyon sterline yükseldiğini açıklamasından sonra %3,1 yükseldi.
JD Sports rose 3.1% after the sportswear firm reported an 83% jump in half-year pre-tax profits to £46.6m.
211
JD Sports patronu daha yüksek maaşların genişlemeye zarar verebileceğini söyledi
JD Sports boss says higher wages could hurt expansion
216
Metcash, Güney Avustralya ve Batı Avustralya'daki IGA mağazalarını bir Aldi saldırısından korumaya çalışıyor.
Metcash is trying to protect its IGA stores from an Aldi onslaught in South Australia and Western Australia.
230
Metcash, Bay Douglass'ın yorumlarına bir yanıt vermeyi reddetti.
Metcash has declined to respond publicly to Mr Douglass' comments.
236
Thanasi Kokkinakis davranışı için eleştiriden çok övgüyü hak ediyor.
Thanasi Kokkinakis deserves kudos rather than criticism for his behaviour.
241
Genç oyuncu şu anda Glasgow'da Sam Groth ile birlikte Davis Cup yarı finalinde Britanya'ya karşı Bernard Tomic'in arkasında ikinci tekler görevi için yarışıyor.
The teenager is currently in Glasgow, competing with Sam Groth for the second singles berth behind Bernard Tomic in the Davis Cup semi-final against Britain.
250
Avrupa göçmen krizi: Macaristan acil durum ilan etti, sınırları kapadı ve göçmenleri göz altına aldı
Europe migrant crisis: Hungary declares emergency, seals border, detains migrants
254
Ancak öfkeleri giderek artıyordu.
But frustrations were on the rise.
256
Bazıları ise kendilerine verilen su ve yiyeceği protesto olarak reddetti.
Some refused food and water in protest.
258
(Sırbistan) bu süreçten zarar görmek değil çözümün bir parçası olmak istiyor.
(Serbia) wants to be part of the solution, not collateral damage.
259
Önümüzdeki günlerde Brüksel ve diğer ülkelerle görüşmeler yapılması gerekecek" dedi Ivica Dacic Pragda.
There will have to be talks in the coming days with Brussels and other countries," Ivica Dacic said in Prague.
266
CBS News muhabiri Charlie D'Agata, Macaristan ile Sırbistan arasına dikenli tel çekme çalışmalarında hapishanelerdeki mahkumların bile görevlendirildiğini duyurdu.
CBS News correspondent Charlie D'Agata reported that even prison inmates were enlisted in the race to finish the razor wire fence between Hungary and Serbia.
270
Güneydeki Szeged şehrinde gazetecilere yaptığı açıklamada hükümet sözcüsü Zoltan Kovacs şöyle konuştu: "Toplu göçün neden olduğu durum nedeniyle Macaristan hükümeti acil durum ilan etmektedir".
"Due to the situation caused by mass migration, the Hungarian government declares a state of crisis," government spokesman Zoltan Kovacs told reporters in the southern city of Szeged.
275
Yetkililer hızla dikenli telleri onarıyor.
Authorities are quickly repairing the fence.
281
Eski Dışişleri Bakanı Hillary Clinton ulusal adaylığa için Demokratik yarışta iki haneli liderliğini devam ettiriyor ama Sen. Bernie Sanders ona yetişiyor.
Former Secretary of State Hillary Clinton continues to hold a double-digit lead in the Democratic race for the nomination nationally, but Sen. Bernie Sanders is gaining on her.
282
Clinton şu anda Demoktarik oyların %47'sini (%58'den düştü) alırken Sanders %27 (%17'den yükseldi) ile ikinci konumda.
Clinton now has the backing of 47 percent of Democratic primary voters (down from 58 percent), while Sanders comes in second, with 27 percent (up from 17 percent).
285
Ancak Clinton'ın destekçileri diğer adaylardan ziyade kendi seçimleri konusunda daha sağlam fikirlere sahip.
But Clinton's backers are more firm in their choice than those backing other candidates.
288
Erkekler arasındaki desteği büyük oranda düştü ve Sanders kendisini yalnızca 5 puan arkadan takip ediyor.
Her support among men has dropped considerably and Sanders only trails her by 5 points.
295
Belki hiç de şaşırtıcı olmayan bir biçimde, Clinton'ın mevcut destekçileri özellikle onu tutkuyla destekleme eğiliminde.
Perhaps not surprisingly, Clinton's current supporters are especially likely to be enthusiastic about her.
296
Clinton'ı şu anda desteklemeyenler arasındaki görüşler daha da karışık - sadece çeyreği onu tutkuyla destekleyebilir.
Views are more mixed among those not currently backing Clinton - only about a quarter would enthusiastically support her.
305
Demokrat seçmenlerin yüzde elli beşi Clinton'ı genel seçim kazanma şansı en iyi olan aday olarak görüyor; ancak bu rakam geçen ay yüzde 78'den bu seviyeye indi.
Fifty-five percent of Democratic voters see Clinton as the candidate with the best chance of winning the general election; however that figure is down from 78 percent last month.

Dataset Card for Variance-Aware MT Test Sets

Dataset Summary

This dataset comprises 70 small and discriminative test sets for machine translation (MT) evaluation called variance-aware test sets (VAT), covering 35 translation directions from WMT16 to WMT20 competitions. VAT is automatically created by a novel variance-aware filtering method that filters the indiscriminative test instances of the current MT benchmark without any human labor. Experimental results show that VAT outperforms the original WMT benchmark in terms of the correlation with human judgment across mainstream language pairs and test sets. Further analysis on the properties of VAT reveals the challenging linguistic features (e.g., translation of low-frequency words and proper nouns) for the competitive MT systems, providing guidance for constructing future MT test sets.

Disclaimer: *The VAT test sets are hosted through Github by the Natural Language Processing & Portuguese-Chinese Machine Translation Laboratory (NLP2CT Lab) of the University of Macau. They were introduced by the paper Variance-Aware Machine Translation Test Sets by Runzhe Zhan, Xuebo Liu, Derek F. Wong, Lidia S. Chao and follow the original licensing for WMT test sets.

Supported Tasks and Leaderboards

Machine Translation

Refer to the original paper for additional details on model evaluation on VAT.

Languages

The following table taken from the original paper lists the languages supported by the VAT test sets, for a total of 70 language pairs:

↔️ wmt16 wmt17 wmt18 wmt19 wmt20
xx_en cs,de,fi,
ro,ru,tr
cs,de,fi,lv,
ru,tr,zh
cs,de,et,fi,
ru,tr,zh
de,fi,gu,
kk,lt,ru,zh
cs,de,iu,ja,km,
pl,ps,ru,ta,zh
en_xx ru cs,de,fi,
lv,ru,tr,zh
cs,de,et,fi,
ru,tr,zh
cs,de,fi,gu,
kk,lt,ru,zh
cs,de,ja,pl,
ru,ta,zh
xx_yy / / / de_cs,de_fr,
fr_de
/

To use any one of the test set, pass wmtXX_src_tgt as configuration name to the load_dataset command. E.g. to load the English-Russian test set from wmt16, use load_dataset('gsarti/wmt_vat', 'wmt16_en_ru').

Dataset Structure

Data Instances

A sample from the test split (the only available split) for the WMT16 English-Russian language (wmt16_en_ru config) is provided below. All configurations have the same structure.

{
    'orig_id': 0,
    'source': 'The social card of residents of Ivanovo region is to be recognised as an electronic payment instrument.',
    'reference': 'Социальная карта жителя Ивановской области признается электронным средством платежа.'
}

The text is provided as-in the original dataset, without further preprocessing or tokenization.

Data Fields

  • orig_id: Id corresponding to the row id in the original dataset, before variance-aware filtering.
  • source: The source sentence.
  • reference: The reference sentence in the target language.

Data Splits

Taken from the original repository:

Configuration # Sentences # Words # Vocabulary
wmt20_km_en 928 17170 3645
wmt20_cs_en 266 12568 3502
wmt20_en_de 567 21336 5945
wmt20_ja_en 397 10526 3063
wmt20_ps_en 1088 20296 4303
wmt20_en_zh 567 18224 5019
wmt20_en_ta 400 7809 4028
wmt20_de_en 314 16083 4046
wmt20_zh_en 800 35132 6457
wmt20_en_ja 400 12718 2969
wmt20_en_cs 567 16579 6391
wmt20_en_pl 400 8423 3834
wmt20_en_ru 801 17446 6877
wmt20_pl_en 400 7394 2399
wmt20_iu_en 1188 23494 3876
wmt20_ru_en 396 6966 2330
wmt20_ta_en 399 7427 2148
wmt19_zh_en 800 36739 6168
wmt19_en_cs 799 15433 6111
wmt19_de_en 800 15219 4222
wmt19_en_gu 399 8494 3548
wmt19_fr_de 680 12616 3698
wmt19_en_zh 799 20230 5547
wmt19_fi_en 798 13759 3555
wmt19_en_fi 799 13303 6149
wmt19_kk_en 400 9283 2584
wmt19_de_cs 799 15080 6166
wmt19_lt_en 400 10474 2874
wmt19_en_lt 399 7251 3364
wmt19_ru_en 800 14693 3817
wmt19_en_kk 399 6411 3252
wmt19_en_ru 799 16393 6125
wmt19_gu_en 406 8061 2434
wmt19_de_fr 680 16181 3517
wmt19_en_de 799 18946 5340
wmt18_en_cs 1193 19552 7926
wmt18_cs_en 1193 23439 5453
wmt18_en_fi 1200 16239 7696
wmt18_en_tr 1200 19621 8613
wmt18_en_et 800 13034 6001
wmt18_ru_en 1200 26747 6045
wmt18_et_en 800 20045 5045
wmt18_tr_en 1200 25689 5955
wmt18_fi_en 1200 24912 5834
wmt18_zh_en 1592 42983 7985
wmt18_en_zh 1592 34796 8579
wmt18_en_ru 1200 22830 8679
wmt18_de_en 1199 28275 6487
wmt18_en_de 1199 25473 7130
wmt17_en_lv 800 14453 6161
wmt17_zh_en 800 20590 5149
wmt17_en_tr 1203 17612 7714
wmt17_lv_en 800 18653 4747
wmt17_en_de 1202 22055 6463
wmt17_ru_en 1200 24807 5790
wmt17_en_fi 1201 17284 7763
wmt17_tr_en 1203 23037 5387
wmt17_en_zh 800 18001 5629
wmt17_en_ru 1200 22251 8761
wmt17_fi_en 1201 23791 5300
wmt17_en_cs 1202 21278 8256
wmt17_de_en 1202 23838 5487
wmt17_cs_en 1202 22707 5310
wmt16_tr_en 1200 19225 4823
wmt16_ru_en 1199 23010 5442
wmt16_ro_en 800 16200 3968
wmt16_de_en 1200 22612 5511
wmt16_en_ru 1199 20233 7872
wmt16_fi_en 1200 20744 5176
wmt16_cs_en 1200 23235 5324

Dataset Creation

The dataset was created by retaining a subset of the top 40% instances from various WMT test sets for which the variance between automatic scores (BLEU, BLEURT, COMET, BERTScore) was the highest. Please refer to the original article Variance-Aware Machine Translation Test Sets for additional information on dataset creation.

Additional Information

Dataset Curators

The original authors of VAT are the curators of the original dataset. For problems or updates on this 🤗 Datasets version, please contact gabriele.sarti996@gmail.com.

Licensing Information

The variance-aware test set were created based on the original WMT test set. Thus, the the original data licensing plan already stated by WMT organizers is still applicable:

The data released for the WMT news translation task can be freely used for research purposes, we just ask that you cite the WMT shared task overview paper, and respect any additional citation requirements on the individual data sets. For other uses of the data, you should consult with original owners of the data sets.

Citation Information

Please cite the authors if you use these corpora in your work. It is also advised to cite the original WMT shared task paper for the specific test sets that were used.

@inproceedings{
    zhan2021varianceaware,
    title={Variance-Aware Machine Translation Test Sets},
    author={Runzhe Zhan and Xuebo Liu and Derek F. Wong and Lidia S. Chao},
    booktitle={Thirty-fifth Conference on Neural Information Processing Systems, Datasets and Benchmarks Track},
    year={2021},
    url={https://openreview.net/forum?id=hhKA5k0oVy5}
}
Edit Dataset Tags

Models trained or fine-tuned on gsarti/wmt_vat

None yet