dikal/maleo-emotion-annotated

Maleo Emotion Audio Dataset Indonesia (Annotated with Word-Level Timestamps)

Dataset audio ucapan emosi bahasa Indonesia (Indonesian Speech Emotion Recognition) yang dilengkapi dengan transkripsi teks manual dan penanda waktu kata demi kata (word-level timestamps).

Dataset ini ditujukan untuk penelitian dan pengembangan sistem Speech Emotion Recognition (SER), Automatic Speech Recognition (ASR), serta analisis multimodal ucapan emosional.

---

Ringkasan Dataset

Atribut	Keterangan
Bahasa	Bahasa Indonesia (id) & Variasi Bahasa Percakapan
Total Audio	700 file WAV (3 detik per segmen)
Kategori Emosi	7 emosi (seimbang, 100 audio per kelas)
Daftar Emosi	Marah, Terkejut, Senang, Takut, Sedih, Jijik, Netral
Fitur Khusus	Transkripsi manual, batas waktu ucapan (speech boundaries), dan word-level timestamps (JSON)
Format Metadata	metadata.parquet (Parquet) & metadata.csv (utf-8-sig)
Format Audio	WAV (16-bit PCM, 44.1 kHz, Stereo)

---

Struktur Direktori Dataset

maleo-emotion/
├── README.md               # Dataset Card ini
├── metadata.parquet        # Metadata format Apache Parquet
├── metadata.csv            # Metadata format CSV (UTF-8-SIG)
└── audio/                  # File audio terstruktur berdasarkan folder emosi
    ├── Jijik/
    │   ├── Jijik 1.WAV
    │   └── ...
    ├── Marah/
    ├── Netral/
    ├── Sedih/
    ├── Senang/
    ├── Takut/
    └── Terkejut/

---

Skema Kolom Metadata

Nama Kolom	Tipe Data	Deskripsi	Contoh
file_name	string	Relative path standar Hugging Face AudioFolder	audio/Jijik/Jijik 1.WAV
filename	string	Nama file audio	Jijik 1.WAV
folder	string	Nama folder emosi	Jijik
emotion_id	string	Label emosi dalam Bahasa Indonesia	jijik
emotion_en	string	Label emosi dalam Bahasa Inggris	disgust
transcription	string	Teks transkripsi ucapan (atau [INAUDIBLE] / [NO_SPEECH])	Gue hampir semua, hampir.
has_speech	bool	Indikator apakah audio mengandung kata ucapan	True / False
start_time	float	Waktu awal ucapan (detik)	1.73
end_time	float	Waktu akhir ucapan (detik)	2.98
audio_duration	float	Durasi total file audio (detik)	3.019
speech_duration	float	Durasi rentang ucapan aktif (detik)	1.25
word_timestamps	string (JSON)	Array batas waktu kata demi kata (word, start, end)	[{"word": "Gue", "start": 1.73, "end": 1.88}, ...]
audio_path	string	Path relatif file audio untuk fleksibilitas kode	audio/Jijik/Jijik 1.WAV

---

Catatan Penting: Karakteristik Linguistik & Akustik Dataset

Sebelum menggunakan dataset ini untuk pelatihan model atau evaluasi, peneliti perlu memperhatikan karakteristik alami dari rekaman spontan (in-the-wild) berikut:

1. Label [INAUDIBLE] & [NO_SPEECH] Bukan Berarti Mutlak Tanpa Kata

• Kata Tertutup Vokalisasi Emosi Kuat: Pada segmen yang dilabeli [INAUDIBLE], sering kali penutur sebenarnya tetap melontarkan kata atau kalimat, namun artikulasi fonemnya terdistorsi atau tertutup oleh intensitas ekspresi emosi yang ekstrem—seperti desahan napas berat, rintihan tangis tersedu-sedu (sobbing), jeritan panik (screaming), atau tawa terbahak-bahak (gasping/laughter).
• Pencegahan Halusinasi Transkripsi: Karena bentuk fonemnya menjadi sangat samar dan ambigu untuk diverifikasi secara leksikal tanpa risiko bias asumsi, segmen tersebut sengaja ditandai sebagai [INAUDIBLE].
• Label [NO_SPEECH]: Ditujukan khusus untuk segmen jeda, tarikan nafas hening, atau audio yang murni hanya berisi kebisingan latar/ambience tanpa sinyal fonetik manusia.

2. Emosi Tumpang-Tindih (Overlapping / Mixed Emotions)

• Ekspresi Nyata Spontan: Karena data bersumber dari video YouTube dalam kondisi alami, emosi manusia yang terekam tidak selalu muncul secara tunggal atau murni (single-emotion).
• Fenomena Dua Emosi Bertimpa:
  • Takut + Terkejut: Reaksi kaget mendadak (jump-scare) yang berlanjut menjadi kepanikan atau ketakutan hebat.
  • Senang + Sedih: Tawa getir, tawa saat terharu, atau tangisan bahagia (crying of joy / laughing through tears).
  • Marah + Jijik: Amarah membara yang disertai ekspresi muak dan jijik ("huwek, najis lu!").
• Label Primer: Label emosi pada dataset ini (emotion_id / emotion_en) mencerminkan emosi yang paling dominan (primary emotion) dari persepsi auditori. Peneliti disarankan mempertimbangkan kemungkinan pendekatan multi-label classification atau analisis dimensi emosi (Valence-Arousal).

3. Keberadaan Ujaran Full Bahasa Asing (Full Foreign Language Utterances)

• Campuran Bahasa Asing (Code-Mixing) adalah Normal: Penggunaan bahasa Indonesia percakapan yang bercampur dengan kata atau frasa serapan luar negeri (misalnya "What the hell? ah, epic banget sih ini" atau "Yang super nostalgic ya, guys") merupakan fenomena code-mixing yang wajar dalam percakapan sehari-hari di Indonesia dan tidak menjadi kendala.
• Catatan Penting: Audio Full Bahasa Asing: Hal yang perlu menjadi perhatian utama peneliti adalah terdapat beberapa cuplikan audio yang seluruh tuturannya murni bahasa asing (100% full foreign language tanpa kosakata bahasa Indonesia sama sekali).
  • Contoh Sampel:
    • Jijik 52.WAV: "Sorry guys."
    • Takut13.WAV: "NOO"
    • Seruan atau ekspresi spontan lainnya yang seluruhnya berbahasa asing.
• Rekomendasi bagi Peneliti: Bagi peneliti yang melatih atau menguji model ASR/SER yang secara ketat menargetkan bahasa Indonesia murni, disarankan untuk mengidentifikasi atau memfilter sampel-sampel yang berisi ujaran full bahasa asing ini sesuai kebutuhan eksperimen.

---

🌐 English Summary of Linguistic & Acoustic Characteristics

1. [INAUDIBLE] vs [NO_SPEECH]:
   • [INAUDIBLE] indicates that human speech was uttered, but lexical phonemes were heavily masked or distorted by intense affective vocalizations (e.g., heavy sobbing, breathless shrieks, visceral laughter). These are labeled [INAUDIBLE] to avoid transcription hallucination.
   • [NO_SPEECH] designates acoustic segments with silence, pauses, or ambient noise without vocal articulation.
2. Overlapping / Mixed Emotions:
   • Due to the naturalistic (in-the-wild) origin, several 3-second segments exhibit overlapping or co-occurring emotions (e.g., Fear overlapping with Surprise, Bitter laughter blending Joy with Sadness, Anger combined with Disgust). The provided labels designate the primary/dominant emotion.
3. Full Foreign Language Utterances:
   • While code-mixing (Indonesian mixed with foreign words) is completely natural and expected in modern colloquial Indonesian speech, researchers should note that several audio clips feature utterances spoken entirely in a foreign language (100% foreign language without any Indonesian words), such as "Sorry guys" (Jijik 52.WAV) or "NOO" (Takut13.WAV).
   • Researchers evaluating strictly monolingual Indonesian ASR/SER models should account for or filter these full foreign-language samples according to their experimental setup.

---

🚀 Cara Menggunakan Dataset

1. Menggunakan Hugging Face datasets (AudioFolder)

from datasets import load_dataset

# Muat langsung seluruh dataset beserta decoding audio otomatis
dataset = load_dataset("audiofolder", data_dir="path/to/dataset")

# Akses sampel pertama
sample = dataset["train"][0]
print("Audio Array :", sample["audio"]["array"])
print("Sample Rate :", sample["audio"]["sampling_rate"])
print("Transkripsi :", sample["transcription"])
print("Emosi       :", sample["emotion_id"], f"({sample['emotion_en']})")

2. Menggunakan pandas (Parquet / CSV)

import pandas as pd
import json

# Membaca Parquet (Cepat & Tipe Data Terjaga)
df = pd.read_parquet("metadata.parquet")

# Atau membaca CSV (Encoding UTF-8-SIG)
# df = pd.read_csv("metadata.csv", encoding="utf-8-sig")

# Mem-parsing word_timestamps JSON
sample_words = json.loads(df.iloc[0]["word_timestamps"])
for w in sample_words:
    print(f"Kata: {w['word']:<15} | Waktu: {w['start']}s -> {w['end']}s")

---

🏷️ Distribusi Kelas Emosi

Label Emosi (ID)	Label Emosi (EN)	Jumlah Sampel
Marah	Angry	100
Terkejut	Surprise	100
Senang	Happy	100
Takut	Fear	100
Sedih	Sad	100
Jijik	Disgust	100
Netral	Neutral	100
Total		700

---

📜 Sitasi Karya Asli

Jika Anda menggunakan dataset Maleo Emotion ini dalam penelitian atau proyek Anda, harap menyitasi publikasi aslinya:

@article{Mardiana2025MaleoEmotion,
  title={{Maleo Emotion Audio Dataset Indonesia For Emotion Classification}},
  author={Mardiana, Ardi and Permana, Sri Mentari Widya Ningrum and Sopiandi, Ii and Bastian, Ade and Irawan, Eka Tresna},
  journal={Kinetik: Game Technology, Information System, Computer Network, Computing, Electronics, and Control, 11(2)},
  year={2026},
  url={https://doi.org/10.22219/kinetik.v11i2.2474}
}