athrvk/gpu-sankhya
Token Classification • Updated
Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code: DatasetGenerationError
Exception: CastError
Message: Couldn't cast
text: string
lang: string
spans: list<item: string>
child 0, item: string
cross_script: bool
to
{'text': Value('string'), 'lang': Value('string'), 'spans': List(Json(decode=True))}
because column names don't match
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1827, in _prepare_split_single
for key, table in generator:
^^^^^^^^^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 613, in wrapped
for item in generator(*args, **kwargs):
~~~~~~~~~^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2306, in cast_table_to_schema
raise CastError(
...<3 lines>...
)
datasets.table.CastError: Couldn't cast
text: string
lang: string
spans: list<item: string>
child 0, item: string
cross_script: bool
to
{'text': Value('string'), 'lang': Value('string'), 'spans': List(Json(decode=True))}
because column names don't match
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
~~~~~~~~~~~~~~~~~~~~~~~~~^
builder, max_dataset_size_bytes=max_dataset_size_bytes
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1694, in _prepare_split
for job_id, done, content in self._prepare_split_single(
~~~~~~~~~~~~~~~~~~~~~~~~~~^
gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
):
^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1880, in _prepare_split_single
raise DatasetGenerationError("An error occurred while generating the dataset") from e
datasets.exceptions.DatasetGenerationError: An error occurred while generating the datasetNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
text string | lang string | spans list |
|---|---|---|
પા લાખ ભર્યા પહેલાં | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 25000
}
] |
પા કરોડનો ફ્લેટ છે એ | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 2500000
}
] |
પા હજાર તો રોજનું થઈ જાય | gu_gujr | [
{
"start": 0,
"end": 7,
"value": 250
}
] |
અડધો કરોડ માગે છે એ જગ્યા માટે | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 5000000
}
] |
અડધા લાખમાં પતી જશે બધું | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 50000
}
] |
અડધી લાખની લોન બાકી છે હજી | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 50000
}
] |
પોણા બે લાખ થયા કુલ ખર્ચમાં | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 175000
}
] |
પોણો કરોડ બોલ્યા એ લોકો | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 7500000
}
] |
પોણા ચાર હજાર બાકી રહ્યા | gu_gujr | [
{
"start": 0,
"end": 13,
"value": 3750
}
] |
સવા લાખ રૂપિયા જમા કરાવ્યા બેંકમાં | gu_gujr | [
{
"start": 0,
"end": 7,
"value": 125000
}
] |
સવા કરોડની ડીલ ફાઇનલ થઈ ગઈ | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 12500000
}
] |
સવા ત્રણ હજાર લાગ્યા રિપેરમાં | gu_gujr | [
{
"start": 0,
"end": 13,
"value": 3250
}
] |
દોઢ લાખનું પેકેજ મળ્યું એને | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 150000
}
] |
દોઢ કરોડમાં વેચાયો બંગલો | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 15000000
}
] |
દોઢ હજાર રોજના મળે છે | gu_gujr | [
{
"start": 0,
"end": 8,
"value": 1500
}
] |
અઢી લાખ સુધી જઈ શકું છું હું | gu_gujr | [
{
"start": 0,
"end": 7,
"value": 250000
}
] |
અઢી કરોડનો પ્રોજેક્ટ છે આખો | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 25000000
}
] |
અઢી હજારમાં મળી ગયું આખરે | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 2500
}
] |
સાડા ત્રણ લાખનું બજેટ રાખ્યું છે | gu_gujr | [
{
"start": 0,
"end": 16,
"value": 350000
}
] |
સાડાત્રણ લાખ થઈ ગયા કુલ | gu_gujr | [
{
"start": 0,
"end": 12,
"value": 350000
}
] |
સાડા પાંચ હજાર ભાડું છે મહિનાનું | gu_gujr | [
{
"start": 0,
"end": 14,
"value": 5500
}
] |
સાડાપાંચ કરોડની જમીન છે એ | gu_gujr | [
{
"start": 0,
"end": 15,
"value": 55000000
}
] |
સાડા આઠ લાખમાં ગાડી લીધી | gu_gujr | [
{
"start": 0,
"end": 14,
"value": 850000
}
] |
સાડા બાર હજારનું સ્ટાઇપેન્ડ છે | gu_gujr | [
{
"start": 0,
"end": 16,
"value": 12500
}
] |
ત્રણસો રૂપિયા આપ્યા રિક્ષાવાળાને | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 300
}
] |
ચારસો લોકોનું જમણ હતું | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 400
}
] |
પાંચસો રૂપિયાની નોટ આપી એણે | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 500
}
] |
સાતસો રૂપિયામાં પતી ગયું | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 700
}
] |
આઠસો રૂપિયા લાગ્યા પેટ્રોલમાં | gu_gujr | [
{
"start": 0,
"end": 4,
"value": 800
}
] |
નવસો રૂપિયાનું બિલ આવ્યું | gu_gujr | [
{
"start": 0,
"end": 4,
"value": 900
}
] |
અઢારસો રૂપિયા થયા આ મહિને | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 1800
}
] |
બારસો રૂપિયામાં મળી જશે | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 1200
}
] |
પંદરસો રૂપિયા રોજના કમાય છે | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 1500
}
] |
સોળસો રૂપિયાની ખરીદી કરી | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 1600
}
] |
ઓગણીસસો રૂપિયા બાકી છે હજી | gu_gujr | [
{
"start": 0,
"end": 7,
"value": 1900
}
] |
બત્રીસસો રૂપિયા ભર્યા ફીના | gu_gujr | [
{
"start": 0,
"end": 8,
"value": 3200
}
] |
એકસો રૂપિયાનો દંડ ભર્યો | gu_gujr | [
{
"start": 0,
"end": 4,
"value": 100
}
] |
બસો રૂપિયા આપી દે ભાઈ | gu_gujr | [
{
"start": 0,
"end": 3,
"value": 200
}
] |
બસો રૂપિયાનું રિચાર્જ કરાવ્યું | gu_gujr | [
{
"start": 0,
"end": 3,
"value": 200
}
] |
બસોની નોટ નથી મારી પાસે | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 200
}
] |
છસો રૂપિયા લાગ્યા દવામાં | gu_gujr | [
{
"start": 0,
"end": 3,
"value": 600
}
] |
છસ્સો રૂપિયા થયા કુલ | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 600
}
] |
છસ્સો રૂપિયામાં પતાવ્યું એણે | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 600
}
] |
સો રૂપિયા આપ ને જરા | gu_gujr | [
{
"start": 0,
"end": 2,
"value": 100
}
] |
દોઢસો રૂપિયા થયા રિક્ષાના | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 150
}
] |
અઢીસો રૂપિયામાં મળે છે એ | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 250
}
] |
સાડાત્રણસો રૂપિયા લાગ્યા | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 350
}
] |
સાડા બારસો રૂપિયા કમાયો આજે | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 1250
}
] |
પચ્ચીસ હજારનું બજેટ છે મારું | gu_gujr | [
{
"start": 0,
"end": 14,
"value": 25000
}
] |
પચીસ હજાર આપ્યા એડવાન્સમાં | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 25000
}
] |
છવ્વીસ હજાર થયા કુલ ખર્ચ | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 26000
}
] |
છવીસ હજારમાં પતી ગયું | gu_gujr | [
{
"start": 0,
"end": 12,
"value": 26000
}
] |
પિસ્તાલીસ હજારનો પગાર છે | gu_gujr | [
{
"start": 0,
"end": 16,
"value": 45000
}
] |
પીસ્તાલીસ લાખની જમીન છે એ | gu_gujr | [
{
"start": 0,
"end": 15,
"value": 4500000
}
] |
નેવું હજાર રૂપિયા જમા છે | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 90000
}
] |
નેવુ હજારમાં મળી જશે ગાડી | gu_gujr | [
{
"start": 0,
"end": 12,
"value": 90000
}
] |
પંચાણું હજારનું પેકેજ છે | gu_gujr | [
{
"start": 0,
"end": 15,
"value": 95000
}
] |
પંચાણુ લાખ થયા કુલ | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 9500000
}
] |
ઓગણીસ લાખની લોન લીધી હતી | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 1900000
}
] |
ઓગણિસ હજાર બાકી છે હજી | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 19000
}
] |
ચોસઠ હજારનો ફોન લીધો એણે | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 64000
}
] |
ચોંસઠ લાખમાં વેચાયો ફ્લેટ | gu_gujr | [
{
"start": 0,
"end": 12,
"value": 6400000
}
] |
એંસી હજાર રૂપિયા મળ્યા | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 80000
}
] |
અંસી લાખની ડીલ હતી | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 8000000
}
] |
નવ્વાણું હજારમાં પતી જશે | gu_gujr | [
{
"start": 0,
"end": 16,
"value": 99000
}
] |
અઠ્ઠાવીસ હજાર ભર્યા ફીના | gu_gujr | [
{
"start": 0,
"end": 13,
"value": 28000
}
] |
અઠાવીસ લાખની કિંમત બોલી | gu_gujr | [
{
"start": 0,
"end": 12,
"value": 2800000
}
] |
બોંતેર હજારનું બિલ આવ્યું | gu_gujr | [
{
"start": 0,
"end": 14,
"value": 72000
}
] |
પસ્તીસ હજારમાં સ્કૂટી લીધી | gu_gujr | [
{
"start": 0,
"end": 14,
"value": 35000
}
] |
બેંતાલીસ લાખનો ફ્લેટ છે | gu_gujr | [
{
"start": 0,
"end": 14,
"value": 4200000
}
] |
ઇઠ્યોતેર હજાર બાકી છે | gu_gujr | [
{
"start": 0,
"end": 13,
"value": 78000
}
] |
ઈઠ્યાસી લાખની જમીન વેચી | gu_gujr | [
{
"start": 0,
"end": 13,
"value": 8800000
}
] |
છ લાખ કરોડનું બજેટ જાહેર થયું | gu_gujr | [
{
"start": 0,
"end": 13,
"value": 6000000000000
}
] |
બે અબજનું ટર્નઓવર થયું | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 2000000000
}
] |
પાંચ મિલિયન વ્યૂઝ આવ્યા | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 5000000
}
] |
ત્રણ બિલિયન ડોલરની કંપની છે | gu_gujr | [
{
"start": 0,
"end": 11,
"value": 3000000000
}
] |
₹50000 ફાઇનલ છે ભાવ | gu_gujr | [
{
"start": 1,
"end": 6,
"value": 50000
}
] |
રૂ. 25000 માં આપું છું | gu_gujr | [
{
"start": 4,
"end": 9,
"value": 25000
}
] |
રૂ 12000 ભાડું છે મહિનાનું | gu_gujr | [
{
"start": 3,
"end": 8,
"value": 12000
}
] |
Rs. 45000 થયા કુલ | gu_gujr | [
{
"start": 4,
"end": 9,
"value": 45000
}
] |
₹1.5 લાખ સુધી જઈ શકાય | gu_gujr | [
{
"start": 1,
"end": 8,
"value": 150000
}
] |
કિંમત ₹75000 ઓન્લી | gu_gujr | [
{
"start": 7,
"end": 12,
"value": 75000
}
] |
બાવીસ રૂપિયો કિલો ભાવ છે | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 22
}
] |
50k મહિને મળે છે અત્યારે | gu_gujr | [
{
"start": 0,
"end": 3,
"value": 50000
}
] |
12 LPA નું પેકેજ છે એનું | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 1200000
}
] |
2.5 cr માં વેચાયો પ્લોટ | gu_gujr | [
{
"start": 0,
"end": 6,
"value": 25000000
}
] |
1.5L સુધીનું બજેટ છે | gu_gujr | [
{
"start": 0,
"end": 4,
"value": 150000
}
] |
8 lac ની લોન મંજૂર થઈ | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 800000
}
] |
3 bn ડોલરનું ફંડિંગ મળ્યું | gu_gujr | [
{
"start": 0,
"end": 4,
"value": 3000000000
}
] |
25K બોનસ મળ્યું આ વખતે | gu_gujr | [
{
"start": 0,
"end": 3,
"value": 25000
}
] |
૫૦૦૦૦ રૂપિયા જમા કરાવ્યા | gu_gujr | [
{
"start": 0,
"end": 5,
"value": 50000
}
] |
૨૫ હજારમાં મળી જશે | gu_gujr | [
{
"start": 0,
"end": 10,
"value": 25000
}
] |
૧,૨૫,૦૦૦ રૂપિયા થયા કુલ | gu_gujr | [
{
"start": 0,
"end": 8,
"value": 125000
}
] |
ભાવ ૧૮ રૂપિયા કિલો છે આજે | gu_gujr | [
{
"start": 4,
"end": 6,
"value": 18
}
] |
પચીસ થી ત્રીસ હજાર સુધીનું બજેટ | gu_gujr | [
{
"start": 0,
"end": 18,
"value": 25000,
"range": [
25000,
30000
]
}
] |
બે થી ત્રણ લાખમાં મળી જશે ગાડી | gu_gujr | [
{
"start": 0,
"end": 17,
"value": 200000,
"range": [
200000,
300000
]
}
] |
દસ કે પંદર હજાર લાગશે આમાં | gu_gujr | [
{
"start": 0,
"end": 15,
"value": 10000,
"range": [
10000,
15000
]
}
] |
50k-70k ની રેન્જમાં બતાવો | gu_gujr | [
{
"start": 0,
"end": 7,
"value": 50000,
"range": [
50000,
70000
]
}
] |
5-10 લાખ સુધીનું રોકાણ કરવું છે | gu_gujr | [
{
"start": 0,
"end": 8,
"value": 500000,
"range": [
500000,
1000000
]
}
] |
1 to 2 cr ની પ્રોપર્ટી જોઈએ છે | gu_gujr | [
{
"start": 0,
"end": 9,
"value": 10000000,
"range": [
10000000,
20000000
]
}
] |
End of preview.
gpu-sankhya gold evaluation sets
Hand-written gold sets used to evaluate the gpu-sankhya model, written independently of the synthetic data generator so they measure real-world quality rather than in-distribution accuracy.
gold_hi_latn.jsonl(227 examples) -- romanised Hindi / Hinglish ("bhai sava lakh mein ho jayega kya")gold_hi_latn.jsonl(100 examples) -- romanised Hindi / Hinglish ("bhai sava lakh mein ho jayega kya")gold_hi_latn.jsonl(100 examples) -- romanised Hindi / Hinglish ("bhai sava lakh mein ho jayega kya")gold_hi_latn.jsonl(100 examples) -- romanised Hindi / Hinglish ("bhai sava lakh mein ho jayega kya")gold_hi_latn.jsonl(100 examples) -- romanised Hindi / Hinglish ("bhai sava lakh mein ho jayega kya")gold_hi_deva.jsonl(186 examples) -- Devanagari Hindi ("सवा लाख मिलेगा")gold_gu_gujr.jsonl(162 examples) -- Gujarati ("દોઢ લાખનું પેકેજ છે")gold_mr_deva.jsonl(173 examples) -- Devanagari Marathi ("दीड लाख मिळतील")
Format
One JSON object per line:
{"text": "bhai sava lakh mein ho jayega kya", "lang": "hi_latn", "spans": [{"start": 5, "end": 14, "value": 125000}]}
text-- the input sentence.lang-- one ofhi_latn,hi_latn,hi_latn,hi_latn,hi_latn,hi_deva,gu_gujr,mr_deva.spans-- zero or more amount spans (an empty list is a "negative" example, used to measure false-positive rate). Each span has:start,end-- code-point offsets into the normalized text (Unicode NFC, Devanagari digits mapped to ASCII, lowercased -- seesankhya.charset.normalize_text)value-- the resolved numeric valuerange(optional) --[low, high]for range phrases ("2-3 lakh")unit(optional) --sau/hazaar/lakh/crore/...currency(optional) --INRwhen a currency marker is adjacent to the span
Usage
These files are consumed by python -m sankhya.eval_gold --gold gold_hi_latn.jsonl gold_hi_latn.jsonl gold_hi_latn.jsonl gold_hi_latn.jsonl gold_hi_latn.jsonl gold_hi_deva.jsonl gold_gu_gujr.jsonl gold_mr_deva.jsonl --weights-json <weights>.json [--int8] in the source repo, which decodes each text with the model,
matches predicted spans to gold spans, and reports precision/recall/F1,
value accuracy, a per-category breakdown, and the negatives false-positive
rate. See python/README.md in
https://github.com/athrvk/gpu-sankhya for the full evaluation pipeline.
- Downloads last month
- 62
Models trained or fine-tuned on athrvk/gpu-sankhya-gold