Convex Low-resource Accent-Robust Language Detection in Speech Recognition
Paper • 2605.23235 • Published • 5
Datasets:
audio audioduration (s) 0.33 30 | text stringlengths 0 439 | lang stringclasses 5
values | accent stringclasses 23
values |
|---|---|---|---|
Stasiun kereta ada di mana? | id | id | |
Pulang pergi? Hanya sekali jalan. | id | id | |
Undang ia ke dalam rapat perdamaian akibat dari kejadian hari ini | id | id | |
Mata pelajaran kegemaran saya suka mata pelajaran Bahasa Melayulah. [um] Saya suka kepada mata pelajaran Bahasa Melayu. [um] Itu tan-[um] | ms | msi | |
The amenability property has a large number of equivalent formulations. | en | us | |
Kami memakan pai yang sangat enak. | id | id | |
我喜欢的音乐节叻就是贝多芬贝多芬他的镨啊曲啊哇都是很很生动的嗯表演出来 | zh | cdo | |
Saya banyak melihat tumbuhan seperti pokok dan juga bunga ros pada minggu ini. | ms | ms | |
Saya gemar bertanyakan kepada doktor saya berkaitan dengan soalan dan juga sesuatu penyakit. | ms | ms | |
也是一種作法 | zh | tw | |
我现今很少看电视了因为做工很没空照顾小孩很没空我不知问题有什么节目好看现今 | zh | cdo | |
Ini yang dilakukan Mary untuk hidup. | id | id | |
I ate a dish with rice, spaghetti, hummus, and caramelized onions. | en | ur | |
Tuhan memberikan anak, Tuhan yang akan memberi dia roti. | id | id | |
Saya suka keadaan cuaca pada hari ini kerana ianya redup, berangin dan tidak panas. | ms | ms | |
Mungkin hobi baharu saya adalah untuk belajar menaiki motor kerana saya suka menaiki motor kalau orang lain yang bawak. | ms | ms | |
国民革命成功后曾任中山大学副校长。 | zh | zh | |
However, a conspicuous Special Branch presence warned off the gang. | en | sg | |
दो | hi | te | |
एक इग्ज़ामपल दे तो वह वॉशिंग मशीन का उपयोग जो हम आजकल बहुत करते हैं की हर कोई घर में होता ही होगा वॉशिंग मशीन वह जो वॉशिंग मशीन नहीं होते थे तब तो हाथ से सारे कपड़े धोने पड़ते थे और वह बहुत समय लग जाते थे | hi | ml | |
Julian currently works at Mozilla. | en | sg | |
Belajar bahasa asing membosankan. | id | id | |
पाँच में | hi | ml | |
इसके तहत उद्यानों को ट्री प्लांटेशन | hi | brx | |
This led to both the Red Terror and the White Terror. | en | us | |
Dia mendengarkan musik di kamarnya. | id | id | |
Pak Tanaka minum coca-cola. | id | id | |
Sudah kukatakan bahwa toko itu libur setiap hari Rabu | id | id | |
Apakah kamu memahami maksudku, Tom? | id | id | |
मैं घर पर हूँ। | hi | hi | |
Cara pembayaran di negara berubah sepanjang lima tahun yang lalu sangat-sangat berubah kalau dulu apa-apa pembayaran kita mesti pergi ke kaunter kita mesti berurusan di jabatan-jabatan tertentu dan semuanya melalui secara tunai tapi sekarang apa-apa pun boleh guna kad, boleh juga online. | ms | msi | |
他们自称恰哈拉。 | zh | zh | |
Di dekat rumahku ada taman bagus. | id | id | |
नागालैंड मणिपुर मिजोरम मेघालय त्रिपुरा | hi | kok | |
ज़्यादा लेकिन ज़्यादा से ज़्यादा हिंदी चलती है ऑफिशियल लैंग्वेज में | hi | kok | |
मेलडी अच्छा है मेलडी आज का गाने में नहीं होता है यह मैं नहीं कह सकता हूँ मेलडी भी है लेकिन मेलडी के बाद वह सब चीज़ मतलब जो टेक्निकैलिटी जो चीज़ है वह सब मायने रखता है पुराने ज़माने का गाने में वह सब नहीं था मतलब सुर और | hi | bn | |
Di antara cabaran usahawan apabila mereka memulakan perniagaan ialah adake perniagaan yang mereka ceburi itu mendapat minat atau mendapat sambutan daripada masyarakat setempat jika tidak mungkin mereka kurang mengalami kerugian tapi jike perniagaan mereka tu mendapat sambutan mendapat permintaan daripada masyarakat set... | ms | msi | |
Pickerel and were transferred and commissioned into the Italian Navy at the same time. | en | us | |
Artis tempatan yang saya kagumi adalah Dato Siti Nurhaliza. | ms | ms | |
Cuaca berselang-seli kadang-kadang musim tengkujuh, penas, sajuk dan musim hujan silih berganti dan ada kalanya cuaca panas yang amat sangat. | ms | msi | |
Memisahkan sampah itu wajib. | id | id | |
Kalau kawan-kawan yang [um] kadang-kadang [um] dia suka gugup ini [um] terutama kalau [um] kana suruh becakap di atas pentas itu kana yakin sama diri saja lah [um] orang bilang kalau diorang orang lain itu buli kenapa kita tidak pula tidak buli [um] jadi [um] mantain saja lah kasi mantap. | ms | msi | |
Have you met Catherine? | en | hi | |
Hidup cuma sekali | id | id | |
our ability to do good things for people. | en | us | |
Saya suka AI. AI banyak memudahkan <ketaklancaran> kehidupan harian saya. Selalunya, jika saya ingin menulis, dan saya tidak dapat berfikir sebarang idea, saya akan menggunakan IA untuk memberikan saya i- idea untuk menulis. | ms | ms | |
毛粗丝木为茶茱萸科粗丝木属下的一个种。 | zh | zh | |
Kebimbangan saya mungkin terdiri daripada ketakutan bahawa data sensitif saya akan dikeluarkan. | ms | ms | |
बच्चों को या हम हमारे नीति पाठ के लिए जो हम बचपन से पढ़ते आ रहे हैं ऐसे सारे कप किताबें हमारे घर में रहती हैं और हम बहुत पढ़ते हैं | hi | mr | |
这也引发了一场关于艺术自由的辩论。 | zh | zh | |
You do the math. | en | us | |
Why do people even eat peanut butter and jelly? | en | us | |
ड्रॉ करना मुझे अच्छा लगता है | hi | kok | |
Dengan menjaga pemakanan yang sihat serta melakukan senaman setiap hari. | ms | ms | |
तो इसीलिए यह खाना मुझे बहुत पसंद है जो भारतीय खाना होता है | hi | or | |
家己（ka-kī | ka-tī | ka-ti） | zh | TW | |
Antara jenis penghijrahan yang terdapat di negara saya adalah disebabkan oleh program kerajaan "Malaysia Rumah Keduaku", di mana pihak kerajaan menjemput para-para pelabur dari luar negara untuk menjadikan Malaysia sebagai tempat tinggal kedua mereka, | ms | ms | |
Pihak sekolah dan ibu bapa saling membantu mendidik anak-anak adalah melalui perbincangan setiap bulan atau pun perjumpaan dalam tempoh masa dalam seta-selama setahun pelajar itu bersekolah adalah perjumpaan ibu bapa dan juga guru untuk saling berinteraksi lah antara satu sama lain untuk bertanyakan perkembangan anak d... | ms | msi | |
大頭菜 （tuā-thâu-tshài） | zh | TW | |
Saya sakit gigi. | id | id | |
黃土水畢業自師範科 | zh | tw | |
起凊瘼（khí-tshìn-mooh） | zh | TW | |
Saya akan tanya Doktor lah jika saya bertanya tentang sesuatu penyakit permulaan saya cari di Google dulu lepas itu jika saya yakin saya akan berjumpa Doktor [um] bertanya tentang pesakit sakit yang tersebut lah yang berkaitan. | ms | msi | |
Genre muzik kegemaran saya adalah <ketaklancaran> rock dan juga R&B. | ms | ms | |
学堂得学东西[um]最多的地方，能够[um]能够交朋友，做好人，能够学很多语言。 | zh | cpx | |
平常我比较多就是打badminton 和也有打一点乒乓当也会喜欢去gym去做健身有时去公园走走下跑跑下啊新鲜空气 | zh | cdo | |
Kami terjebak dalam kemacetan lalu lintas, yang membuat kami terlambat dua puluh menit. | id | id | |
Dia membaca sebanyak dua puluh buku setiap minggu. | id | id | |
Kamu seharusnya tidak berada di sini. | id | id | |
James Welch was born at Stratfield Saye. | en | ur | |
कुछ दिन पहले मैंने एक शैम्पू ख़रीदी है तो पहले मुझे समझ में नहीं आ रहा था कि यह कैसा होगा पर बाद में जब मैंने इस्तेमाल किया मुझे पता चला कि यह बहुत ही अच्छा है और मेरे बालों के लिए बहुत सही है | hi | bn | |
[um] Saya harap teknologi boleh bantu saya buat karja memudah mengasi sanang buat kerja dan sanang dan tidak telampau mahal untuk didapati. [um] Membantu lah dalam bila kita bebuat sesuatu. Itu saya harapkan dengan teknologi. | ms | msi | |
Penggunaan telefon saya adalah bergantung dengan masa kalau masa saya banyak "free" kadang-kadang saya akan meluangkan dalam tiga puluh minit hingga satu jam tapi kalau saya ada bz saya ada sibuk saya akan cuma meluangkan masa dengan "handphone" dalam kurang daripada tiga puluh minit lah bergantung dengan keadaan dan... | ms | msi | |
Locations included New York, Los Angeles, San Francisco, Chicago and Boston. | en | us | |
लानी पड़ती थी तब वह जंगल में जाकर लकड़ियाँ ले कर आते थे | hi | kok | |
[noise] [um] Biasalah tadi tu, saya sudah kasi tau tadi dalam soalan sam-yang sama, saya minat [um] bola sepak, takraw dan badminton dan sekarang ni masih jogging [um] dalam seminggu dalam empat lima kali. | ms | msi | |
Chris Jones progressed to the Judge's Cuts where he was eliminated from the competition. | en | ur | |
個條木嘴都唔得話頭醒尾嘅 | zh | hk | |
Lawan kata "berat" adalah "ringan". | id | id | |
Terima kasih atas kedatangannya. | id | id | |
Kamu lebih memilih pergi ke kebun binatang atau bioskop? | id | id | |
Saya memandu kereta. | ms | ms | |
What time was it? | en | hi | |
律师多数是问朋友咯或者会知道的人有同学啊是律师的咯就问他们咯若没有的话就是去找律师馆咯要会认识的人介绍 | zh | cdo | |
本站主体结构经已完工封顶。 | zh | zh | |
螢橋（Îng-kiô） | zh | TW | |
械客（hāi-kheh） | zh | TW | |
इसीलिए वह जो एक व्यक्ति वह | hi | ml | |
Bank memastikan wang kami selamat menggunakan protokol-protokol yang sedia ada bagi menjamin tiada sebarang maklumat yang terkeluar. | ms | ms | |
Kalau berenang saya memang tidak tau tapi yang saya nampak orang berenang mang seronok lah memang syiok durang buat. Mungkin salah satu [um] sebabnya untuk-untuk kekal sihat. | ms | msi | |
[um] Muzik kegemaran saya ialah muzik yang berbentuk [um] irama rancak. | ms | msi | |
Bagaimana jika dia bangun..? | id | id | |
Transwa's "Avonlink" and "Prospector" services stop at Cunderdin, at least one service each day. | en | sg | |
我认为觉得是天空蓝色是因为啊蓝色是代表会给人好心情咯人的心情会快乐咯 | zh | cdo | |
Masya- Masyarakat boleh membantu orang yang memerlukan dengan memberi bantuan makanan, mengadakan lawatan sekali-sekali ke rumah mereka untuk mengetahui keadaan fami- keluarga mereka. | ms | ms | |
Some dances show primarily a single influence. | en | hi | |
Adakah harga khusus untuk beberapa perjalanan sekaligus? | id | id | |
मैं एक हेडफ़ोन ख़रीदी थी वह दो महीने बाद ही ख़राब हो गया था मैं एकदम खुश नहीं हूँ वह प्रॉडक्ट से | hi | bn | |
I don't understand its symbolism. | en | sg | |
Dari kotaku untuk mengarah ke daerah lubuk linggau sumsel jika menaiki kereta api | id | id |
End of preview. Expand in Data Studio
CLD — Multilingual (5-language) Speech Dataset
Speech dataset for Convex Low-resource Accent-Robust Language Detection (CLD), covering 5 languages chosen for a deliberately challenging classification boundary. This is the multiclass division of the CLD data.
Dataset description
We curate a dataset of multilingual voice transcriptions across high-resource languages and their low-resource sub-dialects. As a primary source of transcription data we use the Common Voice (v23) dataset (Ardila et al., 2020). We supplement this with several additional dialect datasets for regional speech variance:
- Singaporean English from the National Speech Corpus (NSC) — the first Singapore English corpus — provided through the Info-communications and Media Development Authority (IMDA) of Singapore. Singlish is selected because studies show it incurs particularly high error rates during voice transcription (Fong et al., 2002).
- The Lahaja dataset (Sanket et al., 2024), a benchmark comprising 12.5 hours of Hindi from 132 speakers across 83 Indian districts.
We normalize and augment all audio files via time stretching, volume gain, pitch shift, and augmented background noise with MUSAN (Snyder et al., 2015).
Schema
Each split is a datasets Dataset with
columns:
| column | type | description |
|---|---|---|
audio |
Audio(sampling_rate=16000) mono |
the speech clip, 16 kHz mono |
text |
string |
reference transcription |
lang |
string |
ISO-639-1 language code |
accent |
string |
accent / dialect label |
Multiclass setup
For the multiclass classification task we select 5 languages: English, Chinese,
Indonesian, Malay, Hindi. This selection establishes a challenging classification
boundary, since these languages share linguistic and geographical proximity — such
regional influences often cause misidentification (e.g. Singaporean English is
frequently confused with Malay or Indonesian). To maintain a low-resource setting
we curate 16,000 training samples across these 5 languages, incorporating 24 unique
accents (3,200 samples per language, ~666 per accent), with an 80-10-10
train/test/validation split.
- Languages (5):
en(English),zh(Chinese),id(Indonesian),ms(Malay),hi(Hindi) - Splits:
train/valid/test
How to use
from datasets import load_dataset
ds = load_dataset("williamhtan/cld-multi-dataset")
print(ds)
sample = ds["test"][0]
print(sample["lang"], sample["text"])
audio = sample["audio"] # {"array": np.ndarray, "sampling_rate": 16000}
Citation
If you use this dataset, please cite the CLD paper (ICML 2026) and the underlying corpora: Common Voice (Ardila et al., 2020), the National Speech Corpus (IMDA), Lahaja (Sanket et al., 2024), and MUSAN (Snyder et al., 2015).
- Downloads last month
- -