system HF staff commited on
Commit
a07b3b8
0 Parent(s):

Update files from the datasets library (from 1.2.0)

Browse files

Release notes: https://github.com/huggingface/datasets/releases/tag/1.2.0

Files changed (5) hide show
  1. .gitattributes +27 -0
  2. README.md +718 -0
  3. dataset_infos.json +1 -0
  4. dummy/1.1.0/dummy_data.zip +3 -0
  5. polsum.py +192 -0
.gitattributes ADDED
@@ -0,0 +1,27 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ *.7z filter=lfs diff=lfs merge=lfs -text
2
+ *.arrow filter=lfs diff=lfs merge=lfs -text
3
+ *.bin filter=lfs diff=lfs merge=lfs -text
4
+ *.bin.* filter=lfs diff=lfs merge=lfs -text
5
+ *.bz2 filter=lfs diff=lfs merge=lfs -text
6
+ *.ftz filter=lfs diff=lfs merge=lfs -text
7
+ *.gz filter=lfs diff=lfs merge=lfs -text
8
+ *.h5 filter=lfs diff=lfs merge=lfs -text
9
+ *.joblib filter=lfs diff=lfs merge=lfs -text
10
+ *.lfs.* filter=lfs diff=lfs merge=lfs -text
11
+ *.model filter=lfs diff=lfs merge=lfs -text
12
+ *.msgpack filter=lfs diff=lfs merge=lfs -text
13
+ *.onnx filter=lfs diff=lfs merge=lfs -text
14
+ *.ot filter=lfs diff=lfs merge=lfs -text
15
+ *.parquet filter=lfs diff=lfs merge=lfs -text
16
+ *.pb filter=lfs diff=lfs merge=lfs -text
17
+ *.pt filter=lfs diff=lfs merge=lfs -text
18
+ *.pth filter=lfs diff=lfs merge=lfs -text
19
+ *.rar filter=lfs diff=lfs merge=lfs -text
20
+ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
21
+ *.tar.* filter=lfs diff=lfs merge=lfs -text
22
+ *.tflite filter=lfs diff=lfs merge=lfs -text
23
+ *.tgz filter=lfs diff=lfs merge=lfs -text
24
+ *.xz filter=lfs diff=lfs merge=lfs -text
25
+ *.zip filter=lfs diff=lfs merge=lfs -text
26
+ *.zstandard filter=lfs diff=lfs merge=lfs -text
27
+ *tfevents* filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,718 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ annotations_creators:
3
+ - expert-generated
4
+ language_creators:
5
+ - expert-generated
6
+ languages:
7
+ - pl
8
+ licenses:
9
+ - cc-by-3-0
10
+ multilinguality:
11
+ - monolingual
12
+ size_categories:
13
+ - n<1K
14
+ source_datasets:
15
+ - original
16
+ task_categories:
17
+ - conditional-text-generation
18
+ task_ids:
19
+ - summarization
20
+ ---
21
+
22
+ # Dataset Card for polsum
23
+
24
+ ## Table of Contents
25
+ - [Dataset Description](#dataset-description)
26
+ - [Dataset Summary](#dataset-summary)
27
+ - [Supported Tasks](#supported-tasks-and-leaderboards)
28
+ - [Languages](#languages)
29
+ - [Dataset Structure](#dataset-structure)
30
+ - [Data Instances](#data-instances)
31
+ - [Data Fields](#data-instances)
32
+ - [Data Splits](#data-instances)
33
+ - [Dataset Creation](#dataset-creation)
34
+ - [Curation Rationale](#curation-rationale)
35
+ - [Source Data](#source-data)
36
+ - [Annotations](#annotations)
37
+ - [Personal and Sensitive Information](#personal-and-sensitive-information)
38
+ - [Considerations for Using the Data](#considerations-for-using-the-data)
39
+ - [Social Impact of Dataset](#social-impact-of-dataset)
40
+ - [Discussion of Biases](#discussion-of-biases)
41
+ - [Other Known Limitations](#other-known-limitations)
42
+ - [Additional Information](#additional-information)
43
+ - [Dataset Curators](#dataset-curators)
44
+ - [Licensing Information](#licensing-information)
45
+ - [Citation Information](#citation-information)
46
+
47
+ ## Dataset Description
48
+
49
+ - **Homepage:** http://zil.ipipan.waw.pl/PolishSummariesCorpus
50
+ - **Repository:** http://zil.ipipan.waw.pl/PolishSummariesCorpus
51
+ - **Paper:** http://nlp.ipipan.waw.pl/Bib/ogro:kop:14:lrec.pdf
52
+ - **Leaderboard:** [Needs More Information]
53
+ - **Point of Contact:** [Mateusz Kopeć](http://zil.ipipan.waw.pl/MateuszKopec)
54
+
55
+ ### Dataset Summary
56
+
57
+ The Corpus contains a large number of manual summaries of news articles,
58
+ with many independently created summaries for a single text. Such approach is supposed to overcome the annotator bias, which is often described as a problem during the evaluation of the summarization algorithms against a single gold standard.
59
+
60
+ ### Supported Tasks and Leaderboards
61
+
62
+ [Needs More Information]
63
+
64
+ ### Languages
65
+
66
+ Polish
67
+
68
+ ## Dataset Structure
69
+
70
+ ### Data Instances
71
+
72
+ See below an example from the dataset. Detailed descriptions of the fields are provided in the following section.
73
+
74
+ ```
75
+ {'authors': 'Krystyna Forowicz',
76
+ 'body': "ROZMOWA\n\nProf. Krzysztof Ernst, kierownik Zakładu Optyki Instytutu Fizyki Doświadczalnej Uniwersytetu Warszawskiego\n\nLidarowe oczy\n\nRYS. MAREK KONECKI\n\nJutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.\n\nCzy to kosztowne urządzenie będzie służyło tylko naukowcom?\n\nTego typu lidar jest rzeczywiście drogi, kosztuje około miliona marek niemieckich. Jest to najnowsza generacja tego typu lidarów. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem, staramy się m.in. rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Nad lidarem pracują specjaliści od laserów i od komputerów. Współpracujemy z doskonałym laboratorium prof. Ludgera Wöste z Freie Universitat Berlin rozwijającym m.in. problematykę lidarową. Pakiet software'u wzbogacamy o nowe algorytmy, które potrafią lepiej i dokładniej rozszyfrowywać sygnał lidarowy, a w konsekwencji skażenia. Żeby przetworzyć tzw. sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać rozsądne dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji. \n\nBadania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą. Zasadniczy koszt jego budowy pokryła uzyskana od Fundacji dotacja. Część pieniędzy przekazał też Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej oraz Komitet Badań Naukowych.\n\nCzy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?\n\nNie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze łącznie z dostarczeniem informacji o ich rozkładzie. Ale np. obecnie prowadzimy badania mające na celu rozszerzenie możliwości lidaru o taką substancję jak fosgen. Tym szkodliwym gazem może być skażone powietrze w miastach, w których zlokalizowane są zakłady chemiczne, np. w Bydgoszczy pewne ilości fosgenu emitują Zakłady Chemiczne Organika- Zachem. \n\nLidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć. Cząsteczki, które wykrywamy mają pasma absorbcji w bliskim nadfiolecie. Możemy np. badać zawartość ozonu w troposferze. Okazuje się bowiem, że o ile brak tego gazu w wysokich warstwach atmosfery powoduje groźny efekt cieplarniany, to jego nadmiar tuż nad Ziemią jest szkodliwy. Groźne są też substancje gazowe, jak np. tlenki azotu, będące następstwem spalin samochodowych. A samochodów przybywa.\n\nCzy stać nas będzie na prowadzenie pomiarów ozonu w miastach? \n\nKoszt jednego dnia kampanii pomiarowej firmy zachodnie szacują na kilka tysięcy DM. Potrzebne są pieniądze na utrzymanie lidaru, na prowadzenie badań. Nasze przedsięwzięcie nie ma charakteru komercyjnego. Koszt pomiarów będzie znacznie niższy. Chcemy np. mierzyć w Warszawie rozkłady koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta. Chcielibyśmy rozwinąć tutaj współpracę z państwowymi i wojewódzkimi służbami ochrony środowiska. Tego typu badania były prowadzone np. w Lyonie. Okazało się, że najwięcej tlenków azotu występuje niekoniecznie tam gdzie są one produkowane, to znaczy nie przy najruchliwszych ulicach, jeśli są one dobrze wentylowane a gromadzą się one w małych uliczkach. Przede wszystkim jednak do końca tego roku zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką. Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu trzech granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie. Prowadziliśmy pomiary w samym Turowie, gdzie elektrownia Turoszowska jest głównym źródłem emisji. W planie mamy Bogatynię, zagłębie miedziowe. \n\nW Czarnym Trójkącie istnieje wiele stacjonarnych stacji monitoringowych.\n\nNasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów. Możemy zatem śledzić ewolucję rozprzestrzeniania się tych zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. Wyniki naszych pomiarów porównujemy z danymi uzyskanymi ze stacji monitoringowych. \n\nJak wypadł Czarny Trójkąt?\n\nKiedy występowaliśmy o finansowanie tego projektu do Fundacji Współpracy Polsko-Niemieckiej zanieczyszczenie powietrza w Czarnym Trójkącie było dużo większe niż obecnie i wszystko wskazuje na to, że będzie dalej spadać. Obecnie stężenie dwutlenku siarki jest na granicy naszych możliwości pomiarowych. Dla regionu Turoszowskiego to dobra wiadomość i dla stosunków polsko-niemieckich też.\n\nTypów lidarów jest wiele \n\nTen lidar pracuje w obszarze bliskiego nadfioletu i promieniowania widzialnego, które jest wynikiem wykorzystania drugiej lub trzeciej harmonicznej lasera szafirowego, pracującego na granicy czerwieni i podczerwieni. DIAL jest tym typem lidara, który dzisiaj ma zdecydowanie największe wzięcie w ochronie środowiska. Z lidarów korzysta meteorologia. W Stanach Zjednoczonych lidary umieszcza się na satelitach (program NASA). Określają na przestrzeni kilkudziesięciu kilometrów rozkłady temperatury, wilgotności, ciśnienia, a także prędkości wiatru. Wykrywają pojawianie się huraganów, a nawet mogą określać rozmiary oka tajfunu.\n\nIle takich urządzeń jest w Europie?\n\n- W Europie takich lidarów jak nasz jest zaledwie kilka. Większość z nich mierzy ozon, dwutlenek siarki i tlenek azotu. Wykrywanie toluenu i benzenu jest oryginalnym rozwiązaniem. Długość fali dla benzenu jest już na skraju możliwości widmowych. Nasz lidar typu DIAL jest najnowocześniejszym w Polsce. Ponadto jest lidarem ruchomym, zainstalowanym na samochodzie. Ale historia lidarów w naszym kraju jest dłuższa i zaczęła się na początku lat 60. Pierwsze próby prowadzone były w stacji geofizycznej PAN w Belsku, niedługo po skonstruowaniu pierwszego w świecie lasera rubinowego. Potem powstał lidar stacjonarny, również typu DIAL, w Gdańsku, a w Krakowie sodary - urządzenia oparte na falach akustycznych, wygodne np. do pomiarów szybkości wiatru. Lidar umieszczony na samochodzie i zbudowany w latach 80 na Politechnice Poznańskiej w perspektywie miał być lidarem typu DIAL.\n\nFizycy dotychczas nie zajmowali się ochroną środowiska?\n\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji (zdjęć satelitarnych) Instytutu Geofizyki i, co bardzo ważne, współpraca z Freie Universität Berlin. Mamy również na UW Międzywydziałowe Studia Ochrony Środowiska i studentom przekazujemy informacje o lidarze i fizycznych metodach badania środowiska. Nasze działania dydaktyczne bardzo efektywnie wspiera NFOŚ.\n\nRozmawiała Krystyna Forowicz",
77
+ 'date': '1997-04-21',
78
+ 'id': '199704210011',
79
+ 'section': 'Nauka i Technika',
80
+ 'summaries': {'author': ['I',
81
+ 'I',
82
+ 'I',
83
+ 'C',
84
+ 'C',
85
+ 'C',
86
+ 'K',
87
+ 'K',
88
+ 'K',
89
+ 'G',
90
+ 'G',
91
+ 'G',
92
+ 'J',
93
+ 'J',
94
+ 'J'],
95
+ 'body': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.Czy to kosztowne urządzenie będzie służyło tylko naukowcom? Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad tym urządzeniem. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.',
96
+ 'Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.Czy to kosztowne urządzenie będzie służyło tylko naukowcom? Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad tym urządzeniem. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą. Czy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?Nie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze łącznie z dostarczeniem informacji o ich rozkładzie. Możemy np. badać zawartość ozonu w troposferze. W Europie takich lidarów jak nasz jest zaledwie kilka. Większość z nich mierzy ozon, dwutlenek siarki i tlenek azotu. Fizycy dotychczas nie zajmowali się ochroną środowiska?Taka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji Instytutu Geofizyki i współpraca z Freie Universität Berlin.',
97
+ 'Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym. Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał.',
98
+ 'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. lidar Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, naukową I dydaktyczną. Żeby przetworzyć sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji. muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.',
99
+ 'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. lidar Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym. Jest to najnowsza generacja tego typu lidarów. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Żeby przetworzyć tzw. sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać rozsądne dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji. Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą. Zasadniczy koszt jego budowy pokryła uzyskana od Fundacji dotacja. Część pieniędzy przekazał też Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej oraz Komitet Badań Naukowych. Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.',
100
+ 'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. lidar Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, naukową I dydaktyczną.',
101
+ 'Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \nPROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.',
102
+ 'Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \nPROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.Tego typu lidar jest drogi, kosztuje około miliona marek niemieckich. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem, staramy się m.in. rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć. Cząsteczki, które wykrywamy mają pasma absorbcji w bliskim nadfiolecie.Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów. Możemy zatem śledzić ewolucję rozprzestrzeniania się tych zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. Wyniki naszych pomiarów porównujemy z danymi uzyskanymi ze stacji monitoringowych.',
103
+ 'Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \nPROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową i dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
104
+ 'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.\nto najnowsza generacja tego typu lidarów. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. korzyść mamy potrójną: użyteczną, przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad urządzeniem I dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.\nNasze przedsięwzięcie nie ma charakteru komercyjnego. Chcemy np. mierzyć w Warszawie rozkłady koncentracji tlenków azotu. Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie.',
105
+ 'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.\n\nto kosztowne urządzenie będzie służyło tylko naukowcom?\n\nlidar jest rzeczywiście drogi. to najnowsza generacja tego typu lidarów. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. korzyść mamy potrójną: użyteczną, przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad tym urządzeniem I dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.\n\nCzy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?\n\nNie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze. Ale prowadzimy badania mające na celu rozszerzenie możliwości lidaru o taką substancję jak fosgen.\n\nstać nas będzie na prowadzenie pomiarów ozonu w miastach? \n\nNasze przedsięwzięcie nie ma charakteru komercyjnego. Chcemy np. mierzyć w Warszawie rozkłady koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta. Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie. zanieczyszczenie było dużo większe niż obecnie i wszystko wskazuje na to, że będzie dalej spadać.\nDIAL dzisiaj ma zdecydowanie największe wzięcie w ochronie środowiska. \n\nFizycy dotychczas nie zajmowali się ochroną środowiska?\n\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu.',
106
+ 'Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.\nto najnowsza generacja tego typu lidarów. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. korzyść mamy potrójną: użyteczną, wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad urządzeniem I dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
107
+ 'Co to jest lidar? \nPROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. staramy się rozszerzyć jego zastosowanie na inne substancje występujące w atmosferze. Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej. zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką. Nasz lidar ma większe możliwości niż stacje monitoringowe. Możemy śledzić ewolucję rozprzestrzeniania się zanieczyszczeń, ich kierunek i zmiany. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji Instytutu Geofizyki i współpraca z Freie Universität Berlin.',
108
+ "Co to jest lidar? \nPROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. DIAL - lidar absorbcji różnicowej potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. staramy się rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze. Pakiet software'u wzbogacamy o nowe algorytmy, które potrafią dokładniej rozszyfrowywać sygnał lidarowy, a w konsekwencji skażenia. Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej. \n\nChcemy mierzyć w Warszawie rozkłady koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta. zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką. Nasz lidar ma większe możliwości niż stacje monitoringowe. Możemy śledzić ewolucję rozprzestrzeniania się zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. \n\nDIAL jest tym typem lidara, który dzisiaj ma największe wzięcie w ochronie środowiska. Z lidarów korzysta meteorologia. W Europie takich lidarów jak nasz jest zaledwie kilka. Nasz lidar jest najnowocześniejszym w Polsce. Ponadto jest lidarem ruchomym, zainstalowanym na samochodzie. \n\nFizycy dotychczas nie zajmowali się ochroną środowiska?\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji Instytutu Geofizyki i współpraca z Freie Universität Berlin.",
109
+ 'Co to jest lidar? \nPROF. KRZYSZTOF ERNST: to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką. Nasz lidar ma większe możliwości niż stacje monitoringowe. Możemy śledzić ewolucję rozprzestrzeniania się zanieczyszczeń, ich kierunek i zmiany.'],
110
+ 'ratio': [10, 20, 5, 10, 20, 5, 10, 20, 5, 10, 20, 5, 10, 20, 5],
111
+ 'spans': [{'end': [244, 396, 457, 867, 922, 1022, 1103, 1877],
112
+ 'span_text': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
113
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
114
+ 'Czy to kosztowne urządzenie będzie służyło tylko naukowcom?',
115
+ 'Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
116
+ 'naukową - rozwijamy badania nad tym urządzeniem',
117
+ '.',
118
+ 'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
119
+ 'Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.'],
120
+ 'start': [153, 247, 398, 760, 875, 1020, 1023, 1631]},
121
+ {'end': [244,
122
+ 396,
123
+ 457,
124
+ 867,
125
+ 922,
126
+ 1022,
127
+ 1103,
128
+ 1878,
129
+ 2132,
130
+ 2296,
131
+ 2969,
132
+ 6225,
133
+ 6985,
134
+ 7047,
135
+ 7282,
136
+ 7326,
137
+ 7383],
138
+ 'span_text': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
139
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
140
+ 'Czy to kosztowne urządzenie będzie służyło tylko naukowcom?',
141
+ 'Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
142
+ 'naukową - rozwijamy badania nad tym urządzeniem',
143
+ '.',
144
+ 'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
145
+ 'Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.',
146
+ 'Czy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?',
147
+ 'Nie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze łącznie z dostarczeniem informacji o ich rozkładzie.',
148
+ 'Możemy np. badać zawartość ozonu w troposferze.',
149
+ 'W Europie takich lidarów jak nasz jest zaledwie kilka. Większość z nich mierzy ozon, dwutlenek siarki i tlenek azotu.',
150
+ '',
151
+ 'Fizycy dotychczas nie zajmowali się ochroną środowiska?',
152
+ 'Taka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji',
153
+ 'Instytutu Geofizyki i',
154
+ 'współpraca z Freie Universität Berlin.'],
155
+ 'start': [153,
156
+ 247,
157
+ 398,
158
+ 760,
159
+ 875,
160
+ 1020,
161
+ 1023,
162
+ 1631,
163
+ 2064,
164
+ 2134,
165
+ 2921,
166
+ 6108,
167
+ 6984,
168
+ 6992,
169
+ 7049,
170
+ 7304,
171
+ 7344]},
172
+ {'end': [244, 396, 1103, 1774, 1877],
173
+ 'span_text': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
174
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
175
+ '',
176
+ 'Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał',
177
+ '.'],
178
+ 'start': [153, 247, 1102, 1631, 1876]},
179
+ {'end': [159,
180
+ 227,
181
+ 243,
182
+ 360,
183
+ 804,
184
+ 882,
185
+ 1025,
186
+ 1044,
187
+ 1103,
188
+ 1454,
189
+ 1540,
190
+ 1629,
191
+ 2848],
192
+ 'span_text': ['Jutro',
193
+ 'odbędzie sie pokaz nowego polskiego lidara typu DIAL.',
194
+ 'lidar',
195
+ 'Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
196
+ 'DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną,',
197
+ 'naukową',
198
+ 'I',
199
+ 'dydaktyczną',
200
+ '.',
201
+ 'Żeby przetworzyć',
202
+ 'sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać',
203
+ 'dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji.',
204
+ 'muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.'],
205
+ 'start': [153,
206
+ 173,
207
+ 238,
208
+ 270,
209
+ 591,
210
+ 875,
211
+ 1022,
212
+ 1033,
213
+ 1101,
214
+ 1437,
215
+ 1459,
216
+ 1549,
217
+ 2670]},
218
+ {'end': [159, 227, 243, 396, 922, 1103, 1629, 2062, 2582, 2848],
219
+ 'span_text': ['Jutro',
220
+ 'odbędzie sie pokaz nowego polskiego lidara typu DIAL.',
221
+ 'lidar',
222
+ 'Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
223
+ 'Jest to najnowsza generacja tego typu lidarów. DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem',
224
+ '. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
225
+ 'Żeby przetworzyć tzw. sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać rozsądne dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji.',
226
+ 'Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą. Zasadniczy koszt jego budowy pokryła uzyskana od Fundacji dotacja. Część pieniędzy przekazał też Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej oraz Komitet Badań Naukowych.',
227
+ '',
228
+ 'Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.'],
229
+ 'start': [153, 173, 238, 270, 542, 1020, 1437, 1631, 2581, 2602]},
230
+ {'end': [159, 227, 243, 360, 804, 882, 1025, 1044, 1102],
231
+ 'span_text': ['Jutro',
232
+ 'odbędzie sie pokaz nowego polskiego lidara typu DIAL.',
233
+ 'lidar',
234
+ 'Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
235
+ 'DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną,',
236
+ 'naukową',
237
+ 'I',
238
+ 'dydaktyczną',
239
+ '.'],
240
+ 'start': [153, 173, 238, 270, 591, 875, 1022, 1033, 1101]},
241
+ {'end': [246, 396, 922, 1102, 4763],
242
+ 'span_text': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
243
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
244
+ 'DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem',
245
+ 'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
246
+ 'Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.'],
247
+ 'start': [153, 247, 590, 1022, 4555]},
248
+ {'end': [246, 396, 480, 542, 1021, 1102, 2920, 4989],
249
+ 'span_text': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
250
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
251
+ 'Tego typu lidar jest',
252
+ 'drogi, kosztuje około miliona marek niemieckich.',
253
+ 'DIAL - lidar absorbcji różnicowej jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem, staramy się m.in. rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze.',
254
+ 'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
255
+ 'Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć. Cząsteczki, które wykrywamy mają pasma absorbcji w bliskim nadfiolecie.',
256
+ 'Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów. Możemy zatem śledzić ewolucję rozprzestrzeniania się tych zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. Wyniki naszych pomiarów porównujemy z danymi uzyskanymi ze stacji monitoringowych.'],
257
+ 'start': [153, 247, 459, 493, 590, 1022, 2602, 4555]},
258
+ {'end': [246, 360, 626, 883, 920, 1102],
259
+ 'span_text': ['Jutro w Instytucie odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
260
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
261
+ '',
262
+ 'Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową',
263
+ 'i',
264
+ 'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.'],
265
+ 'start': [153, 247, 625, 760, 919, 1032]},
266
+ {'end': [158,
267
+ 262,
268
+ 271,
269
+ 359,
270
+ 397,
271
+ 590,
272
+ 761,
273
+ 803,
274
+ 867,
275
+ 907,
276
+ 922,
277
+ 1025,
278
+ 1102,
279
+ 3311,
280
+ 3516,
281
+ 3595,
282
+ 3623,
283
+ 3675,
284
+ 4226,
285
+ 4332],
286
+ 'span_text': ['Jutro',
287
+ 'odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF',
288
+ 'ERNST:',
289
+ 'urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
290
+ '',
291
+ 'to najnowsza generacja tego typu lidarów.',
292
+ 'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
293
+ 'korzyść mamy potrójną: użyteczną,',
294
+ 'przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
295
+ 'naukową - rozwijamy badania nad',
296
+ 'urządzeniem',
297
+ 'I',
298
+ 'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
299
+ '',
300
+ 'Nasze przedsięwzięcie nie ma charakteru komercyjnego.',
301
+ 'Chcemy np. mierzyć w Warszawie rozkłady',
302
+ 'koncentracji tlenków azotu',
303
+ '.',
304
+ 'Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu',
305
+ 'granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie.'],
306
+ 'start': [153,
307
+ 172,
308
+ 263,
309
+ 279,
310
+ 396,
311
+ 548,
312
+ 699,
313
+ 769,
314
+ 806,
315
+ 875,
316
+ 911,
317
+ 1022,
318
+ 1033,
319
+ 3310,
320
+ 3462,
321
+ 3556,
322
+ 3596,
323
+ 3674,
324
+ 4158,
325
+ 4233]},
326
+ {'end': [158,
327
+ 262,
328
+ 271,
329
+ 359,
330
+ 398,
331
+ 459,
332
+ 498,
333
+ 543,
334
+ 590,
335
+ 761,
336
+ 803,
337
+ 867,
338
+ 922,
339
+ 1025,
340
+ 1102,
341
+ 2242,
342
+ 2300,
343
+ 2406,
344
+ 3247,
345
+ 3311,
346
+ 3516,
347
+ 3595,
348
+ 3675,
349
+ 4226,
350
+ 4333,
351
+ 5130,
352
+ 5241,
353
+ 5439,
354
+ 5661,
355
+ 5756,
356
+ 7113],
357
+ 'span_text': ['Jutro',
358
+ 'odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF',
359
+ 'ERNST:',
360
+ 'urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
361
+ '',
362
+ 'to kosztowne urządzenie będzie służyło tylko naukowcom?',
363
+ 'lidar jest rzeczywiście drogi',
364
+ '.',
365
+ 'to najnowsza generacja tego typu lidarów.',
366
+ 'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
367
+ 'korzyść mamy potrójną: użyteczną,',
368
+ 'przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
369
+ 'naukową - rozwijamy badania nad tym urządzeniem',
370
+ 'I',
371
+ 'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
372
+ 'Czy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?\n\nNie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze',
373
+ '. Ale',
374
+ 'prowadzimy badania mające na celu rozszerzenie możliwości lidaru o taką substancję jak fosgen.',
375
+ '',
376
+ 'stać nas będzie na prowadzenie pomiarów ozonu w miastach?',
377
+ 'Nasze przedsięwzięcie nie ma charakteru komercyjnego.',
378
+ 'Chcemy np. mierzyć w Warszawie rozkłady',
379
+ 'koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta.',
380
+ 'Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu',
381
+ 'granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie.',
382
+ 'zanieczyszczenie',
383
+ 'było dużo większe niż obecnie i wszystko wskazuje na to, że będzie dalej spadać.',
384
+ '',
385
+ 'DIAL',
386
+ 'dzisiaj ma zdecydowanie największe wzięcie w ochronie środowiska.',
387
+ 'Fizycy dotychczas nie zajmowali się ochroną środowiska?\n\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu.'],
388
+ 'start': [153,
389
+ 172,
390
+ 263,
391
+ 279,
392
+ 396,
393
+ 402,
394
+ 469,
395
+ 541,
396
+ 548,
397
+ 699,
398
+ 769,
399
+ 806,
400
+ 875,
401
+ 1022,
402
+ 1033,
403
+ 2062,
404
+ 2294,
405
+ 2312,
406
+ 3245,
407
+ 3251,
408
+ 3462,
409
+ 3556,
410
+ 3596,
411
+ 4158,
412
+ 4233,
413
+ 5114,
414
+ 5160,
415
+ 5438,
416
+ 5656,
417
+ 5690,
418
+ 6990]},
419
+ {'end': [262, 271, 359, 397, 590, 761, 803, 807, 867, 907, 922, 1025, 1102],
420
+ 'span_text': ['Co to jest lidar? \n\nPROF. KRZYSZTOF',
421
+ 'ERNST:',
422
+ 'urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
423
+ '',
424
+ 'to najnowsza generacja tego typu lidarów.',
425
+ 'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
426
+ 'korzyść mamy potrójną: użyteczną,',
427
+ '',
428
+ 'wykonujemy pomiary skażeń atmosferycznych,',
429
+ 'naukową - rozwijamy badania nad',
430
+ 'urządzeniem',
431
+ 'I',
432
+ 'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.'],
433
+ 'start': [227,
434
+ 263,
435
+ 279,
436
+ 396,
437
+ 548,
438
+ 699,
439
+ 769,
440
+ 806,
441
+ 824,
442
+ 875,
443
+ 911,
444
+ 1022,
445
+ 1033]},
446
+ {'end': [245,
447
+ 360,
448
+ 761,
449
+ 936,
450
+ 971,
451
+ 1022,
452
+ 1733,
453
+ 1878,
454
+ 4159,
455
+ 4614,
456
+ 4772,
457
+ 4818,
458
+ 4860,
459
+ 4906,
460
+ 7283,
461
+ 7326,
462
+ 7383],
463
+ 'span_text': ['Co to jest lidar?',
464
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
465
+ 'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
466
+ 'staramy się',
467
+ 'rozszerzyć jego zastosowanie',
468
+ 'na inne substancje występujące w atmosferze.',
469
+ 'Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej',
470
+ '.',
471
+ 'zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką.',
472
+ 'Nasz lidar ma większe możliwości niż stacje monitoringowe.',
473
+ 'Możemy',
474
+ 'śledzić ewolucję rozprzestrzeniania się',
475
+ 'zanieczyszczeń, ich kierunek i zmiany',
476
+ '.',
477
+ 'Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji',
478
+ 'Instytutu Geofizyki i',
479
+ 'współpraca z Freie Universität Berlin.'],
480
+ 'start': [227,
481
+ 246,
482
+ 699,
483
+ 924,
484
+ 942,
485
+ 977,
486
+ 1631,
487
+ 1876,
488
+ 4076,
489
+ 4555,
490
+ 4765,
491
+ 4778,
492
+ 4823,
493
+ 4904,
494
+ 7114,
495
+ 7305,
496
+ 7344]},
497
+ {'end': [245,
498
+ 360,
499
+ 625,
500
+ 761,
501
+ 936,
502
+ 1022,
503
+ 1311,
504
+ 1357,
505
+ 1436,
506
+ 1733,
507
+ 1878,
508
+ 3247,
509
+ 3311,
510
+ 3563,
511
+ 3676,
512
+ 4159,
513
+ 4614,
514
+ 4772,
515
+ 4818,
516
+ 4906,
517
+ 5410,
518
+ 5439,
519
+ 5701,
520
+ 5789,
521
+ 6163,
522
+ 6364,
523
+ 6472,
524
+ 7048,
525
+ 7283,
526
+ 7326,
527
+ 7383],
528
+ 'span_text': ['Co to jest lidar?',
529
+ 'PROF. KRZYSZTOF ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
530
+ 'DIAL - lidar absorbcji różnicowej',
531
+ 'potrafi rozróżnić, co mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
532
+ 'staramy się',
533
+ 'rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze.',
534
+ "Pakiet software'u",
535
+ 'wzbogacamy o nowe algorytmy, które potrafią',
536
+ 'dokładniej rozszyfrowywać sygnał lidarowy, a w konsekwencji skażenia.',
537
+ 'Badania, które prowadzimy, są zainicjowane i finansowane przez Fundację Współpracy Polsko-Niemieckiej',
538
+ '.',
539
+ '',
540
+ '',
541
+ 'Chcemy',
542
+ 'mierzyć w Warszawie rozkłady koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta.',
543
+ 'zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką.',
544
+ 'Nasz lidar ma większe możliwości niż stacje monitoringowe.',
545
+ 'Możemy',
546
+ 'śledzić ewolucję rozprzestrzeniania się',
547
+ 'zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi.',
548
+ '',
549
+ '',
550
+ 'DIAL jest tym typem lidara, który dzisiaj ma',
551
+ 'największe wzięcie w ochronie środowiska. Z lidarów korzysta meteorologia.',
552
+ 'W Europie takich lidarów jak nasz jest zaledwie kilka.',
553
+ 'Nasz lidar',
554
+ 'jest najnowocześniejszym w Polsce. Ponadto jest lidarem ruchomym, zainstalowanym na samochodzie.',
555
+ 'Fizycy dotychczas nie zajmowali się ochroną środowiska?',
556
+ 'Taka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji',
557
+ 'Instytutu Geofizyki i',
558
+ 'współpraca z Freie Universität Berlin.'],
559
+ 'start': [227,
560
+ 246,
561
+ 591,
562
+ 668,
563
+ 924,
564
+ 942,
565
+ 1293,
566
+ 1313,
567
+ 1366,
568
+ 1631,
569
+ 1876,
570
+ 3246,
571
+ 3310,
572
+ 3556,
573
+ 3567,
574
+ 4076,
575
+ 4555,
576
+ 4765,
577
+ 4778,
578
+ 4823,
579
+ 5409,
580
+ 5438,
581
+ 5656,
582
+ 5714,
583
+ 6108,
584
+ 6353,
585
+ 6374,
586
+ 6990,
587
+ 7049,
588
+ 7305,
589
+ 7344]},
590
+ {'end': [245, 271, 360, 761, 4159, 4614, 4772, 4818, 4860, 4905],
591
+ 'span_text': ['Co to jest lidar?',
592
+ 'PROF. KRZYSZTOF ERNST:',
593
+ 'to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
594
+ 'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
595
+ 'zamierzamy zakończyć pomiary skażeń atmosferycznych nad granicą polsko-niemiecką.',
596
+ 'Nasz lidar ma większe możliwości niż stacje monitoringowe.',
597
+ 'Możemy',
598
+ 'śledzić ewolucję rozprzestrzeniania się',
599
+ 'zanieczyszczeń, ich kierunek i zmiany',
600
+ '.'],
601
+ 'start': [227, 246, 276, 699, 4076, 4555, 4765, 4778, 4823, 4904]}],
602
+ 'type': ['extract',
603
+ 'extract',
604
+ 'extract',
605
+ 'extract',
606
+ 'extract',
607
+ 'extract',
608
+ 'extract',
609
+ 'extract',
610
+ 'extract',
611
+ 'extract',
612
+ 'extract',
613
+ 'extract',
614
+ 'extract',
615
+ 'extract',
616
+ 'extract']},
617
+ 'title': 'Lidarowe oczy'}
618
+ ```
619
+
620
+ ### Data Fields
621
+
622
+ - `id`: a `string` example identifier
623
+ - `date`: date of the original article (`string`)
624
+ - `title`: title of the original article (`string`)
625
+ - `section`: the section of the newspaper the original article belonged to (`string`)
626
+ - `authors`: original article authors (`string`)
627
+ - `body`: original article body (list of `string`s)
628
+ - `summaries`: a dictionary feature containing summaries of the original article with the following attributes:
629
+ - `ratio`: ratio of summary - percentage of the original article (list of `int32`s)
630
+ - `type`: type of summary - extractive (`extract`) or abstractive (`abstract`) (list of `string`s)
631
+ - `author`: acronym of summary author (list of `string`)
632
+ - `body`: body of summary (list of `string`)
633
+ - `spans`: a list containing spans for extractive summaries (empty for abstractive summaries):
634
+ - `start`: start of span (`int32`)
635
+ - `end`: end of span (`int32`)
636
+ - `span_text`: span text (`string`)
637
+
638
+ ### Data Splits
639
+
640
+ Single train split
641
+
642
+ ## Dataset Creation
643
+
644
+ ### Curation Rationale
645
+
646
+ [Needs More Information]
647
+
648
+ ### Source Data
649
+
650
+ #### Initial Data Collection and Normalization
651
+
652
+ [Needs More Information]
653
+
654
+ #### Who are the source language producers?
655
+
656
+ [Needs More Information]
657
+
658
+ ### Annotations
659
+
660
+ #### Annotation process
661
+
662
+ [Needs More Information]
663
+
664
+ #### Who are the annotators?
665
+
666
+ [Needs More Information]
667
+
668
+ ### Personal and Sensitive Information
669
+
670
+ [Needs More Information]
671
+
672
+ ## Considerations for Using the Data
673
+
674
+ ### Social Impact of Dataset
675
+
676
+ [Needs More Information]
677
+
678
+ ### Discussion of Biases
679
+
680
+ [Needs More Information]
681
+
682
+ ### Other Known Limitations
683
+
684
+ [Needs More Information]
685
+
686
+ ## Additional Information
687
+
688
+ ### Dataset Curators
689
+
690
+ [Needs More Information]
691
+
692
+ ### Licensing Information
693
+
694
+ [Needs More Information]
695
+
696
+ ### Citation Information
697
+ ```
698
+ @inproceedings{
699
+ ogro:kop:14:lrec,
700
+ author = "Ogrodniczuk, Maciej and Kopeć, Mateusz",
701
+ pdf = "http://nlp.ipipan.waw.pl/Bib/ogro:kop:14:lrec.pdf",
702
+ title = "The {P}olish {S}ummaries {C}orpus",
703
+ pages = "3712--3715",
704
+ crossref = "lrec:14"
705
+ }
706
+ @proceedings{
707
+ lrec:14,
708
+ editor = "Calzolari, Nicoletta and Choukri, Khalid and Declerck, Thierry and Loftsson, Hrafn and Maegaard, Bente and Mariani, Joseph and Moreno, Asuncion and Odijk, Jan and Piperidis, Stelios",
709
+ isbn = "978-2-9517408-8-4",
710
+ title = "Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014",
711
+ url = "http://www.lrec-conf.org/proceedings/lrec2014/index.html",
712
+ booktitle = "Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014",
713
+ address = "Reykjavík, Iceland",
714
+ key = "LREC",
715
+ year = "2014",
716
+ organization = "European Language Resources Association (ELRA)"
717
+ }
718
+ ```
dataset_infos.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"default": {"description": "Polish Summaries Corpus: the corpus of Polish news summaries.\n", "citation": "@inproceedings{\n ogro:kop:14:lrec,\n author = \"Ogrodniczuk, Maciej and Kope\u0107, Mateusz\",\n pdf = \"http://nlp.ipipan.waw.pl/Bib/ogro:kop:14:lrec.pdf\",\n title = \"The {P}olish {S}ummaries {C}orpus\",\n pages = \"3712--3715\",\n crossref = \"lrec:14\"\n}\n@proceedings{\n lrec:14,\n editor = \"Calzolari, Nicoletta and Choukri, Khalid and Declerck, Thierry and Loftsson, Hrafn and Maegaard, Bente and Mariani, Joseph and Moreno, Asuncion and Odijk, Jan and Piperidis, Stelios\",\n isbn = \"978-2-9517408-8-4\",\n title = \"Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014\",\n url = \"http://www.lrec-conf.org/proceedings/lrec2014/index.html\",\n booktitle = \"Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014\",\n address = \"Reykjav\u00edk, Iceland\",\n key = \"LREC\",\n year = \"2014\",\n organization = \"European Language Resources Association (ELRA)\"\n}\n", "homepage": "http://zil.ipipan.waw.pl/PolishSummariesCorpus", "license": "CC BY v.3", "features": {"id": {"dtype": "string", "id": null, "_type": "Value"}, "date": {"dtype": "string", "id": null, "_type": "Value"}, "title": {"dtype": "string", "id": null, "_type": "Value"}, "section": {"dtype": "string", "id": null, "_type": "Value"}, "authors": {"dtype": "string", "id": null, "_type": "Value"}, "body": {"dtype": "string", "id": null, "_type": "Value"}, "summaries": {"feature": {"ratio": {"dtype": "int32", "id": null, "_type": "Value"}, "type": {"dtype": "string", "id": null, "_type": "Value"}, "author": {"dtype": "string", "id": null, "_type": "Value"}, "body": {"dtype": "string", "id": null, "_type": "Value"}, "spans": {"feature": {"start": {"dtype": "int32", "id": null, "_type": "Value"}, "end": {"dtype": "int32", "id": null, "_type": "Value"}, "span_text": {"dtype": "string", "id": null, "_type": "Value"}}, "length": -1, "id": null, "_type": "Sequence"}}, "length": -1, "id": null, "_type": "Sequence"}}, "post_processed": null, "supervised_keys": null, "builder_name": "polsum", "config_name": "default", "version": {"version_str": "1.1.0", "description": null, "major": 1, "minor": 1, "patch": 0}, "splits": {"train": {"name": "train", "num_bytes": 34787575, "num_examples": 569, "dataset_name": "polsum"}}, "download_checksums": {"http://zil.ipipan.waw.pl/PolishSummariesCorpus?action=AttachFile&do=get&target=PSC_1.0.zip": {"num_bytes": 6082812, "checksum": "90e02f186726047cb013ab18565214910e8f07046aae7d162a3994bccf65b030"}}, "download_size": 6082812, "post_processing_size": null, "dataset_size": 34787575, "size_in_bytes": 40870387}}
dummy/1.1.0/dummy_data.zip ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:787a3372a6fd69d234fd0bfcb6da856f65ee672e1224deb9f3f722326dff723a
3
+ size 7582
polsum.py ADDED
@@ -0,0 +1,192 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # coding=utf-8
2
+ # Copyright 2020 The HuggingFace Datasets Authors and the current dataset script contributor.
3
+ #
4
+ # Licensed under the Apache License, Version 2.0 (the "License");
5
+ # you may not use this file except in compliance with the License.
6
+ # You may obtain a copy of the License at
7
+ #
8
+ # http://www.apache.org/licenses/LICENSE-2.0
9
+ #
10
+ # Unless required by applicable law or agreed to in writing, software
11
+ # distributed under the License is distributed on an "AS IS" BASIS,
12
+ # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13
+ # See the License for the specific language governing permissions and
14
+ # limitations under the License.
15
+ """Polish Summaries Corpus: the corpus of Polish news summaries"""
16
+
17
+ from __future__ import absolute_import, division, print_function
18
+
19
+ import glob
20
+ import xml.etree.ElementTree as ET
21
+
22
+ import datasets
23
+
24
+
25
+ # TODO: Add BibTeX citation
26
+ # Find for instance the citation on arxiv or on the dataset repo/website
27
+ _CITATION = """\
28
+ @inproceedings{
29
+ ogro:kop:14:lrec,
30
+ author = "Ogrodniczuk, Maciej and Kopeć, Mateusz",
31
+ pdf = "http://nlp.ipipan.waw.pl/Bib/ogro:kop:14:lrec.pdf",
32
+ title = "The {P}olish {S}ummaries {C}orpus",
33
+ pages = "3712--3715",
34
+ crossref = "lrec:14"
35
+ }
36
+ @proceedings{
37
+ lrec:14,
38
+ editor = "Calzolari, Nicoletta and Choukri, Khalid and Declerck, Thierry and Loftsson, Hrafn and Maegaard, Bente and Mariani, Joseph and Moreno, Asuncion and Odijk, Jan and Piperidis, Stelios",
39
+ isbn = "978-2-9517408-8-4",
40
+ title = "Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014",
41
+ url = "http://www.lrec-conf.org/proceedings/lrec2014/index.html",
42
+ booktitle = "Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014",
43
+ address = "Reykjavík, Iceland",
44
+ key = "LREC",
45
+ year = "2014",
46
+ organization = "European Language Resources Association (ELRA)"
47
+ }
48
+ """
49
+
50
+ # TODO: Add description of the dataset here
51
+ # You can copy an official description
52
+ _DESCRIPTION = """\
53
+ Polish Summaries Corpus: the corpus of Polish news summaries.
54
+ """
55
+
56
+ # TODO: Add a link to an official homepage for the dataset here
57
+ _HOMEPAGE = "http://zil.ipipan.waw.pl/PolishSummariesCorpus"
58
+
59
+ # TODO: Add the licence for the dataset here if you can find it
60
+ _LICENSE = "CC BY v.3"
61
+
62
+ # TODO: Add link to the official dataset URLs here
63
+ # The HuggingFace dataset library don't host the datasets but only point to the original files
64
+ # This can be an arbitrary nested dict/list of URLs (see below in `_split_generators` method)
65
+ _URL = "http://zil.ipipan.waw.pl/PolishSummariesCorpus?action=AttachFile&do=get&target=PSC_1.0.zip"
66
+
67
+
68
+ # TODO: Name of the dataset usually match the script name with CamelCase instead of snake_case
69
+ class Polsum(datasets.GeneratorBasedBuilder):
70
+ """Polish Summaries Corpus: the corpus of Polish news summaries."""
71
+
72
+ VERSION = datasets.Version("1.1.0")
73
+
74
+ def _info(self):
75
+ features = datasets.Features(
76
+ {
77
+ "id": datasets.Value("string"),
78
+ "date": datasets.Value("string"),
79
+ "title": datasets.Value("string"),
80
+ "section": datasets.Value("string"),
81
+ "authors": datasets.Value("string"),
82
+ "body": datasets.Value("string"),
83
+ "summaries": datasets.features.Sequence(
84
+ {
85
+ "ratio": datasets.Value("int32"),
86
+ "type": datasets.Value("string"),
87
+ "author": datasets.Value("string"),
88
+ "body": datasets.Value("string"),
89
+ "spans": datasets.features.Sequence(
90
+ {
91
+ "start": datasets.Value("int32"),
92
+ "end": datasets.Value("int32"),
93
+ "span_text": datasets.Value("string"),
94
+ }
95
+ ),
96
+ }
97
+ ),
98
+ }
99
+ )
100
+ return datasets.DatasetInfo(
101
+ # This is the description that will appear on the datasets page.
102
+ description=_DESCRIPTION,
103
+ # This defines the different columns of the dataset and their types
104
+ features=features, # Here we define them above because they are different between the two configurations
105
+ # If there's a common (input, target) tuple from the features,
106
+ # specify them here. They'll be used if as_supervised=True in
107
+ # builder.as_dataset.
108
+ supervised_keys=None,
109
+ # Homepage of the dataset for documentation
110
+ homepage=_HOMEPAGE,
111
+ # License for the dataset if available
112
+ license=_LICENSE,
113
+ # Citation for the dataset
114
+ citation=_CITATION,
115
+ )
116
+
117
+ def _split_generators(self, dl_manager):
118
+ """Returns SplitGenerators."""
119
+ # dl_manager is a datasets.download.DownloadManager that can be used to download and extract URLs
120
+ # It can accept any type or nested list/dict and will give back the same structure with the url replaced with path to local files.
121
+ # By default the archives will be extracted and a path to a cached folder where they are extracted is returned instead of the archive
122
+ data_dir = dl_manager.download_and_extract(_URL)
123
+ return [
124
+ datasets.SplitGenerator(
125
+ name=datasets.Split.TRAIN,
126
+ # These kwargs will be passed to _generate_examples
127
+ gen_kwargs={
128
+ "filepaths": glob.glob(data_dir + "/*/*/*.xml"),
129
+ },
130
+ ),
131
+ ]
132
+
133
+ def _generate_examples(self, filepaths):
134
+ """ Yields examples. """
135
+ # TODO: This method will receive as arguments the `gen_kwargs` defined in the previous `_split_generators` method.
136
+ # It is in charge of opening the given file and yielding (key, example) tuples from the dataset
137
+ # The key is not important, it's more here for legacy reason (legacy from tfds)
138
+
139
+ for i, xml_path in enumerate(sorted(filepaths)):
140
+ root = ET.parse(xml_path).getroot()
141
+ text_id = root.get("id")
142
+ date_tag = root.find("date")
143
+ date = date_tag.text.strip()
144
+ title_tag = root.find("title")
145
+ title = title_tag.text.strip()
146
+ section_tag = root.find("section")
147
+ section = section_tag.text.strip()
148
+ authors_tag = root.find("authors")
149
+ authors = authors_tag.text.strip()
150
+ body_tag = root.find("body")
151
+ body = body_tag.text.strip()
152
+ summaries_tag = root.find("summaries")
153
+ summaries = []
154
+ for summary_tag in summaries_tag.iterfind("summary"):
155
+ sratio = int(summary_tag.get("ratio"))
156
+ stype = summary_tag.get("type")
157
+ sauthor = summary_tag.get("author")
158
+ sbody_tag = summary_tag.find("body")
159
+ sbody = sbody_tag.text.strip()
160
+ spans_tag = summary_tag.find("spans")
161
+ spans = []
162
+ if spans_tag:
163
+ for span_tag in spans_tag.iterfind("span"):
164
+ start = int(span_tag.get("start"))
165
+ end = int(span_tag.get("end"))
166
+ span_text = span_tag.text.strip()
167
+ spans.append(
168
+ {
169
+ "start": start,
170
+ "end": end,
171
+ "span_text": span_text,
172
+ }
173
+ )
174
+ summaries.append(
175
+ {
176
+ "ratio": sratio,
177
+ "type": stype,
178
+ "author": sauthor,
179
+ "body": sbody,
180
+ "spans": spans,
181
+ }
182
+ )
183
+
184
+ yield i, {
185
+ "id": text_id,
186
+ "date": date,
187
+ "title": title,
188
+ "section": section,
189
+ "authors": authors,
190
+ "body": body,
191
+ "summaries": summaries,
192
+ }