Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
csv
Sub-tasks:
language-modeling
Languages:
Telugu
Size:
1K - 10K
License:
annotations_creators: | |
- expert-generated | |
language: | |
- te | |
language_creators: | |
- expert-generated | |
license: | |
- apache-2.0 | |
multilinguality: | |
- monolingual | |
pretty_name: Telugu Poems | |
size_categories: | |
- 1K<n<10K | |
source_datasets: | |
- original | |
tags: | |
- literature | |
- poems | |
task_categories: | |
- text-generation | |
task_ids: | |
- language-modeling | |
# Summary | |
`aya-telugu-poems` is an open source dataset of instruct-style records generated by webscraping a Telugu poems website. This was created as part of [Aya Open Science Initiative](https://sites.google.com/cohere.com/aya-en/home) from Cohere For AI. | |
This dataset can be used for any purpose, whether academic or commercial, under the terms of the [Apache 2.0](https://opensource.org/license/apache-2-0) License. | |
Supported Tasks: | |
- Training LLMs | |
- Synthetic Data Generation | |
- Data Augmentation | |
Languages: Telugu Version: 1.0 | |
# Dataset Overview | |
`aya-telugu-poems` is a corpus of more than 5k records generated by webscraping of the Telugu poetry website. This Dataset can be used for the following three tasks: | |
- Given the poem and type of poetry, explain the meaning of the poem. | |
- Given the meaning and the type of poetry, generate the corresponding poem. | |
- Given the partial poem and type of poetry, generate the rest of the poem. | |
# Intended Uses | |
While immediately valuable for instruction fine tuning large language models, as a corpus of instruction prompts, this dataset also presents a valuable opportunity for synthetic data generation in the methods. For example, prompt-completions could be submitted as few-shot examples to a large open language model to generate additional poems and their explanations. | |
# Dataset | |
## Load with Datasets | |
To load this dataset with Datasets, you'll just need to install Datasets as `pip install datasets --upgrade` and then use the following code: | |
```python | |
from datasets import load_dataset | |
ds = load_dataset('SuryaKrishna02/aya-telugu-poems') | |
``` | |
## Purpose of Collection | |
Telugu is a low-resource language where there are no poetry instruct-style dataset to the best of my knowledge. This was created as a part of [Aya Open Science Initiative](https://sites.google.com/cohere.com/aya-en/home) from Cohere For AI to make sure Telugu is well represented in the space of AI/ML. Unlike other datasets that are limited to non-commercial use, this dataset can be used, modified, and extended for any purpose, including academic or commercial applications. | |
## Sources | |
- **Telugu Padyaluu Website**: Performed webscraping from [Telugu Padyaluu Website](https://telugu-padyaalu1.blogspot.com/) which consists of following 11 different types of poetry. | |
1. వేమన శతకం | |
2. శ్రీ కాళహస్తీశ్వర శతకం | |
3. భాస్కర శతకం | |
4. దాశరథి శతకం | |
5. కృష్ణ శతకం | |
6. సుమతీ శతకం | |
7. భర్తృహరి సుభాషితాలు | |
8. కుమార శతకం | |
9. నరసింహ శతకం | |
10. కుమారీ శతకం | |
11. పోతన పద్యాలు | |
- Next, performed some pre-processing of the data like removing unwanted characters and similar poems by calculating the similarity score from the scraped data. | |
- Finally, converted the scraped data into Instruct-style prompts and completions. | |
## Data Fields | |
- `inputs` : Prompt or input to the language model. | |
- `targets` : Completion or output of the language model. | |
- `template_id` : Id of the template used in `inputs` and `targets`. | |
- `template_lang`: ISO code of the language used in the `inputs` and `targets` where *tel* refers to Telugu. | |
## Templates | |
For the creation of instruct-style prompts and completions from the scraped data, the following three templates categories with total of 18 different templates were used: | |
1. Given the poem and type of poetry, explain the meaning of the poem. | |
| template_id | inputs | targets | | |
|-------------|--------|---------| | |
| 1 | ```క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యం ఇవ్వండి:\n{{Poem}}``` | ```ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యం:\n{{Meaning}}``` | | |
| 2 | ```క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావం ఇవ్వండి:\n{{Poem}}``` | ```ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావం:\n{{Meaning}}``` | | |
| 3 | ```క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావము ఇవ్వండి:\n{{Poem}}``` | ```ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావము:\n{{Meaning}}``` | | |
| 4 | ```క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యము ఇవ్వండి:\n{{Poem}}``` | ```ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యము:\n{{Meaning}}``` | | |
| 5 | ```క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధం ఇవ్వండి:\n{{Poem}}``` | ```ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధం:\n{{Meaning}}``` | | |
| 6 | ```క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధము ఇవ్వండి:\n{{Poem}}``` | ```ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధము:\n{{Meaning}}``` | | |
2. Given the meaning and the type of poetry, generate the corresponding poem. | |
| template_id | inputs | targets | | |
|-------------|--------|---------| | |
| 7 | ```క్రింద ఇచ్చిన తాత్పర్యం వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}``` | ```ఇచ్చిన తాత్పర్యం వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}``` | | |
| 8 | ```క్రింద ఇచ్చిన భావం వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}``` | ```ఇచ్చిన భావం వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}``` | | |
| 9 | ```క్రింద ఇచ్చిన భావము వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}``` | ```ఇచ్చిన భావము వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}``` | | |
| 10 | ```క్రింద ఇచ్చిన తాత్పర్యము వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}``` | ```ఇచ్చిన తాత్పర్యము వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}``` | | |
| 11 | ```క్రింద ఇచ్చిన అర్ధం వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}``` | ```ఇచ్చిన అర్ధం వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}``` | | |
| 12 | ```క్రింద ఇచ్చిన అర్ధము వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}``` | ```ఇచ్చిన అర్ధము వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}``` | | |
3. Given the partial poem and type of poetry, generate the rest of the poem. | |
| template_id | inputs | targets | | |
|-------------|--------|---------| | |
| 13 | ```క్రింద ఇచ్చిన తాత్పర్యం అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nతాత్పర్యం:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}``` | ```పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}``` | | |
| 14 | ```క్రింద ఇచ్చిన భావం అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nభావం:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}``` | ```పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}``` | | |
| 15 | ```క్రింద ఇచ్చిన భావము అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nభావము:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}``` | ```పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}``` | | |
| 16 | ```క్రింద ఇచ్చిన తాత్పర్యము అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nతాత్పర్యము:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}``` | ```పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}``` | | |
| 17 | ```క్రింద ఇచ్చిన అర్ధం అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nఅర్ధం:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}``` | ```పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}``` | | |
| 18 | ```క్రింద ఇచ్చిన అర్ధము అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nఅర్ధము:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}``` | ```పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}``` | | |
## Personal or Sensitive Data | |
This dataset contains public information. To our knowledge, there are no private person’s personal identifiers or sensitive information. | |
## Language | |
Telugu | |
# Known Limitations | |
- The Dataset is scraped from the poetry website and the contents of this dataset may reflect the bias, factual errors and sensitive matters. | |
- Although there is utmost care taken to keep the dataset as monolingual, there might be some records that may contain English Language along with Telugu. | |
# Contributors | |
[SuryaKrishna02](https://github.com/SuryaKrishna02) and [Desik98](https://github.com/desik1998) | |