README.md

---
license: apache-2.0
task_categories:
- text-generation
- question-answering
- conversational
language:
- ta
size_categories:
- 1K<n<10K
language_creators:
  - expert-generated
  - machine-generated
multilinguality:
  - monolingual
pretty_name: Thirukkural_QA
---

# Summary
`thirukkural_QA` is an open source dataset of instruct-style records generated by converting publicly available data on Thirukkural and it's meaning.
This was created as part of [Aya Open Science Initiative](https://sites.google.com/cohere.com/aya-en/home) by Cohere For AI.

This dataset can be used for any purpose, whether academic or commercial, under the terms of the [Apache 2.0](https://opensource.org/license/apache-2-0) License.

Supported Tasks:
- Training LLMs
- Synthetic Data Generation
- Data Augmentation
- Question Answering

Languages: Tamil Version: 1.0

# Dataset Overview
`thirukkural_QA` is a corpus of 3990 records generated by converting existing Thirukkural and its meaning into instruction-style. This Dataset can be used for the following tasks:
- Given the thirukkural and ask for its meaning, generates the meaning of the kural.
- Given the meaning of the kural, generates the original kural.
- Given the beginning of a kural and ask for its meaning, generates the original kural along with its meaning.

# Intended Uses
While immediately valuable for instruction fine tuning large language models, as a corpus of instruction prompts, this dataset also presents a valuable opportunity for synthetic data generation. For example, prompt-completions could be submitted as few-shot examples to a large open language model to generate new kurals in a similar style.

# Dataset

## Load with Datasets
To load this dataset with Datasets, you'll just need to install Datasets as `pip install datasets --upgrade` and then use the following code:

```python
from datasets import load_dataset
ds = load_dataset('aitamilnadu/thirukkural_QA')
```

## Purpose of Collection
Tamil is a low-resource language (inspite of having rich literature) where there are no instruct-style dataset to the best of my knowledge. 
This was created as a part of [Aya Open Science Initiative](https://sites.google.com/cohere.com/aya-en/home) from Cohere For AI to make sure Tamil is well represented in the space of AI/ML. 
Unlike other datasets that are limited to non-commercial use, this dataset can be used, modified, and extended for any purpose, including academic or commercial applications.

## Sources
- **[Thirukkural.com](http://www.thirukkural.com/)**: The data from this website is scraped and available at [Thirukkural-Tamil-Dataset](https://github.com/vijayanandrp/Thirukkural-Tamil-Dataset).
- The scraped data is carefully analysed making sure there are no missed words, spelling mistakes and the data is in Tamil only.
- Next, some pre-processing is performed to extract kural, adhigaram, kural no and different meanings seperately from the scraped data.
- Finally, converted the scraped data into instruct-style prompts and completions.


## Templates
For the creation of instruct-style prompts and completions from the scraped data, the following three templates were used:

Template Id: 1. Given the thirukkural and ask for its meaning, generates the meaning of the kural.

```python
Prompt:
{Adigaram_Name} என்னும் அதிகாரத்தில் வரும்,
{Complete_Kural} என்ற குறளின் பொருளை விளக்குக.

Completion:
கொடுக்கப்பட்டுள்ள குறளின் பொருள்: {Kural_Meaning} என்பதாகும். இந்த குறள் {Adigaram_Name} என்னும் அதிகாரத்தில் வரும் {Kural_Number}ஆம் குரள் ஆகும்.
திருக்குறள் உலக புகழ் பெற்ற பொது மறை நூல். இந்நூலை இயற்றியவர் திருவள்ளுவர்.
திருக்குறளில் 133 அதிகாரமும், அதிகாரத்துக்கு 10 குறளும் மொத்தம் 1330 குறளும் அடங்கியுள்ளது. ஒவ்வொரு குறளும் இரண்டு அடிகளையும் ஏழு சீரும் கொண்ட வெண்பாவாகும்.
இந்நூலில் பெரும் பிரிவு பால் எனவும், சிறு பிரிவு இயல் எனவும், அதனினும் சிறியது அதிகாரம் என்று வகுக்க பெற்றுள்ளது.
அறத்துப்பாலில் 38 அதிகாரங்களையும், பொருட்பாலில் 70 அதிகாரங்களையும் மற்றும் காமத்துப்பாலில் 25 அதிகாரங்களையும் கொண்டுள்ளது.
இந்நூல் அறம், பொருள், இன்பம்(காமம்) என்னும் முப்பாலையும் அழகாக எடுத்துரைக்கிறது. வாழ்கையின் அனைத்து பகுதிகளையும் எடுத்துரைக்கும் ஒரு சிறந்த வாழ்வியல் நூலாகும்.
சாதி, மதம், மொழி, நாடு என்று வேறுபாடு இல்லாமல் மக்கள் அனைவருக்கும் பொருந்துவதாக உள்ளதால் உலக பொது மறை என்று அழைக்கப்படுகிறது.
தெய்வநூல், பொய்யாமொழி, தமிழ் மறை, முப்பால் என்று வேறு பெயர்களும் திருக்குறளுக்கு உண்டு.
```

Template Id: 2. Given the meaning of the kural, generates the original kural.
```python
Prompt:
{Kural_Meaning} என்னும் பொருளுக்கு ஏற்ற {Adigram_Name} என்னும் அதிகாரத்தில் வரும் {Kural_Number}ஆம் குறளைத் தருக.

Completion:
'{Complete_Kural}' என்னும் குறளே கொடுக்கப்பட்டுள்ள பொருளுக்குப் பொருத்தமான குறளாகும்.
கொடுக்கப்பட்டுள்ள பொருள் மு. வரதராசனார் அவர்கள் எழுதிய உரையிலிருந்து எடுக்கப்பட்டது. திருக்குறளுக்கு வேறு சில அறிஞர்களும் உரை எழுதியுள்ளனர்.
```

Template Id: 3. Given the beginning of a kural and ask for its meaning, generates the original kural along with its meaning.
```python
Prompt:
'{Kural_Starting}' எனத் தொடங்கும் குறளையும் அதன் பொருளையும் தருக.

Completion:
'{Complete_Kural}' என்னும் குறளே கொடுக்கப்பட்டுள்ள வார்த்தைகளிலிருந்து தொடங்கும் குறளாகும்.
இதன் பொருள்: {Kural_Meaning}
```

## Personal or Sensitive Data
This dataset contains public information. To my knowledge, there are no private person’s personal identifiers or sensitive information.

## Language
Tamil

# Known Limitations
- The meanings used in the prompts/completions are chosen randomly based on the availability of complete sentences and this may reflect some bias by ignoring other meanings written by other scholars.

# Contributors
[AbinayaM02](https://github.com/AbinayaM02)