SuryaKrishna02 commited on
Commit
c4b3f1e
1 Parent(s): 7b96f27

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +96 -1
README.md CHANGED
@@ -1,3 +1,98 @@
1
  ---
2
- license: apache-2.0
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ annotations_creators:
3
+ - expert-generated
4
+ language:
5
+ - te
6
+ language_creators:
7
+ - expert-generated
8
+ license:
9
+ - apache-2.0
10
+ multilinguality:
11
+ - monolingual
12
+ pretty_name: Telugu Jokes
13
+ size_categories:
14
+ - n<1K
15
+ source_datasets:
16
+ - original
17
+ tags:
18
+ - food
19
+ - recipes
20
+ task_categories:
21
+ - text-generation
22
+ task_ids:
23
+ - language-modeling
24
  ---
25
+
26
+ # Summary
27
+ `aya-telugu-jokes` is an open source dataset of instruct-style records generated by webscraping a Telugu Jokes website. This was created as part of [Aya Open Science Initiative](https://sites.google.com/cohere.com/aya-en/home) from Cohere For AI.
28
+
29
+ This dataset can be used for any purpose, whether academic or commercial, under the terms of the [Apache 2.0](https://opensource.org/license/apache-2-0) License.
30
+
31
+ Supported Tasks:
32
+ - Training LLMs
33
+ - Synthetic Data Generation
34
+ - Data Augmentation
35
+
36
+ Languages: Telugu Version: 1.0
37
+
38
+ # Dataset Overview
39
+ `aya-telugu-jokes` is a corpus of more than 900 records generated by webscraping of the Telugu Jokes website. This Dataset can be used for the following task:
40
+ - Given the title of a funny conversation, generate a funny conversation based on the title.
41
+
42
+ # Intended Uses
43
+ While immediately valuable for instruction fine tuning large language models, as a corpus of instruction prompts, this dataset also presents a valuable opportunity for synthetic data generation in the methods. For example, prompt-completions could be submitted as few-shot examples to a large open language model to generate additional funny conversations and their titles.
44
+
45
+ # Dataset
46
+
47
+ ## Load with Datasets
48
+ To load this dataset with Datasets, you'll just need to install Datasets as `pip install datasets --upgrade` and then use the following code:
49
+
50
+ ```python
51
+ from datasets import load_dataset
52
+ ds = load_dataset('SuryaKrishna02/aya-telugu-jokes')
53
+ ```
54
+
55
+ ## Purpose of Collection
56
+ Telugu is a low-resource language where there no funny conversation generation instruct-style dataset to the best of my knowledge. This was created as a part of [Aya Open Science Initiative](https://sites.google.com/cohere.com/aya-en/home) from Cohere For AI to make sure Telugu is well represented in the space of AI/ML. Unlike other datasets that are limited to non-commercial use, this dataset can be used, modified, and extended for any purpose, including academic or commercial applications.
57
+
58
+ ## Sources
59
+ - **Andhrajyothi Website**: Performed webscraping from [Andhrajyothi Website](https://lit.andhrajyothy.com/jokes/) which is a website consisting of funny conversations. Next, performed some pre-processing of the data like removing unwanted characters from the scraped data. Finally, converted the scraped data into Instruct-style prompts and completions.
60
+
61
+ ## Templates
62
+ For the creation of instruct-style prompts and completions from the scraped data, the following one template was used:
63
+ 1. Given the title of a funny conversation, generate a funny conversation based on the title.
64
+ ```python
65
+ Prompt:
66
+ ("{{Title}} అనే శీర్షిక తో జోక్ ఇవ్వు" /
67
+ "{{Title}} అనే టైటిల్ తో జోక్ ఇవ్వు" /
68
+ "ఒక హాస్య సంభాషణ ఇవ్వు మరియు దాని యొక్క శీర్షిక {{Title}} ఉండే లాగా ఇవ్వు." /
69
+ "ఒక చిన్న హాస్య సన్నివేశం ఇవ్వు మరియు దాని యొక్క శీర్షిక {{Title}} ఉండే లాగా ఇవ్వు." /
70
+ "ఒక చమత్కారమయిన సంభాషణ ఇవ్వు మరియు దాని యొక్క శీర్షిక {{Title}} ఉండే లాగా ఇవ్వు." /
71
+ "ఒక చిన్న చమత్కారమయిన సన్నివేశం ఇవ్వు మరియు దాని యొక్క శీర్షిక {{Title}} ఉండే లాగా ఇవ్వు. " /
72
+ "ఒక తమాషా అయినా సంభాషణ ఇవ్వు మరియు దాని యొక్క శీర్షిక {{Title}} ఉండే లాగా ఇవ్వు." /
73
+ "ఒక చిన్న తమాషా అయినా సన్నివేశం ఇవ్వు మరియు దాని యొక్క శీర్షిక {{Title}} ఉండే లాగా ఇవ్వు. " /
74
+ "ఒక హాస్య సంభాషణ ఇవ్వు మరియు దాని యొక్క టైటిల్ {{Title}} ఉండే లాగా ఇవ్వు." /
75
+ "ఒక చిన్న హాస్య సన్నివేశం ఇవ్వు మరియు దాని యొక్క టైటిల్ {{Title}} ఉండే లాగా ఇవ్వు." /
76
+ "ఒక చమత్కారమయిన సంభాషణ ఇవ్వు మరియు దాని యొక్క టైటిల్ {{Title}} ఉండే లాగా ఇవ్వు." /
77
+ "ఒక చిన్న చమత్కారమయిన సన్నివేశం ఇ���్వు మరియు దాని యొక్క టైటిల్ {{Title}} ఉండే లాగా ఇవ్వు." /
78
+ "ఒక తమాషా అయినా సంభాషణ ఇవ్వు మరియు దాని యొక్క టైటిల్ {{Title}} ఉండే లాగా ఇవ్వు." /
79
+ "ఒక చిన్న తమాషా అయినా సన్నివేశం ఇవ్వు మరియు దాని యొక్క టైటిల్ {{Title}} ఉండే లాగా ఇవ్వు.")
80
+
81
+ Completion:
82
+ శీర్షిక: {{Title}}
83
+
84
+ {{Funny Conversation}}
85
+ ```
86
+
87
+ ## Personal or Sensitive Data
88
+ This dataset contains public information. To our knowledge, there are no private person’s personal identifiers or sensitive information.
89
+
90
+ ## Language
91
+ Telugu
92
+
93
+ # Known Limitations
94
+ - The Dataset is scraped from the Jokes Website and the contents of this dataset may reflect the bias, factual errors, inappropriate and sensitive matters.
95
+ - Although there is utmost care taken to keep the dataset as monolingual, there might be some records that may contain English Language along with Telugu.
96
+
97
+ # Contributors
98
+ [SuryaKrishna02](https://github.com/SuryaKrishna02) and [Desik98](https://github.com/desik1998)