muizidn/cs-ai-help-dataset-finetuning

Dataset Function Calling untuk cs-ai

Dataset ini digunakan oleh cs-ai custom — sistem AI customer service yang memanggil tools (function calling) dan memutuskan apakah perlu eskalasi ke manusia. Seluruh percakapan dalam Bahasa Indonesia.

Struktur Dataset

Semua file JSONL berada di folder synthetic/. Folder real/ disediakan untuk data asli di masa mendatang.

13 file JSONL: restaurant.jsonl (57, restoran), sample.jsonl (11, multidomain), requires-human-assistance.jsonl (10, eskalasi), notify-backservice.jsonl (7, notifikasi), no-rag-fallback.jsonl (20, tanpa RAG), rag-irrelevant-fallback.jsonl (20, RAG irrelevant), greetings.jsonl (20, sapaan), product-catalog.jsonl (20, katalog produk), restaurant-catalog.jsonl (20, menu restoran), umroh-catalog.jsonl (21, paket umroh), digital-product-catalog.jsonl (20, produk digital), concise-rag-answer.jsonl (24, RAG kompleks → jawaban singkat), json-array-answer.jsonl (19, jawaban JSON array untuk konten panjang), dan incremental-info.jsonl (20, jawaban bertahap dengan CTA).

Kolom

Kolom	Tipe	Fungsi
messages	array[object]	Seluruh percakapan — history diikuti output/target. Setiap object punya role dan content, plus tool_calls/tool_call_id untuk function calling.
history_count	integer	Jumlah pesan pertama dalam messages yang merupakan history/input. Sisa pesan setelahnya (messages[history_count:]) adalah output/target yang harus dihasilkan AI.
tool_calls	array[object]	Definisi tool (function) yang tersedia untuk skenario ini. Berisi name, description, dan parameters (JSON Schema).
reasoning	string	Chain-of-thought sebagai reference
final_ai_decision_type	string	Keputusan akhir: DIRECT_REPLY, REQUIRES_HUMAN_ASSISTANCE, FALLBACK_REPLY
category	string	Label kategori skenario
note	string	Catatan tambahan
rags	array[string]	Daftar konteks RAG (untuk metadata/filtering)
memories	array[string]	Daftar memori pengguna (untuk metadata/filtering)

Kolom messages

Gabungan dari conversations (history) + output (target).

messages = conversations + output
history_count = len(conversations)

• messages[:history_count] — History/input yang dilihat model
• messages[history_count:] — Output/target yang harus dihasilkan AI

Mekanisme Metadata pada messages

Di setiap pesan assistant yang merupakan respons langsung (bukan tool call), AI wajib menempelkan metadata dengan format:

<teks respons>
----
decision: <DECISION_TYPE>
reason: <penjelasan singkat>

Metadata ini memberi sinyal ke sistem cs-ai:

• decision — Klasifikasi jenis respons
• reason — Alasan di balik keputusan tersebut

Selain decision dan reason, pesan assistant juga dapat menyertakan trigger_memory (opsional) untuk memberi sinyal bahwa ada informasi pengguna yang perlu diingat:

<teks respons>
----
decision: <DECISION_TYPE>
reason: <penjelasan singkat>
trigger_memory: <sesi apa yang perlu diingat>

Contoh trigger_memory

{"role": "assistant", "content": "Kami memiliki beberapa opsi vegetarian...\n----\ndecision: DIRECT_REPLY\nreason: Menampilkan rekomendasi menu bebas daging berdasar filter vegetarian.\ntrigger_memory: pelanggan menyebutkan vegetarian — ingat preferensi menu bebas daging untuk kunjungan berikutnya"}

Contoh reguler (tanpa trigger_memory)

{"role": "assistant", "content": "Pesanan 2 porsi Nasi Goreng Spesial (Pedas Sedang) sudah dicatat...\n----\ndecision: DIRECT_REPLY\nreason: Pesanan berhasil dibuat via tool create_order."}

RAG Context dalam messages

Pesan dengan role: "user" dapat menyematkan konteks RAG (Retrieval-Augmented Generation) langsung di kontennya menggunakan separator ---RAG. Hanya satu ---RAG per pesan — jika ada banyak konteks, cukup tulis sebagai multiline setelah satu ---RAG:

<teks pertanyaan pengguna>
---RAG
<konteks RAG — bisa multiline>

Di UI, konteks ini dirender sebagai tag berwarna cyan di dalam bubble user.

Contoh

{"role": "user", "content": "Apakah menu Es Cendol mengandung santan kelapa murni?\n---RAG\nJika pelanggan memiliki alergi bahan makanan tertentu, tawarkan alternatif menu yang aman"}

Memory Context dalam messages

Pesan dengan role: "user" juga dapat menyematkan memori pengguna menggunakan separator ---MEMORY. Hanya satu ---MEMORY per pesan — konten setelahnya bisa multiline:

<teks pertanyaan pengguna>
---RAG
<konteks RAG>
---MEMORY
<memori pengguna — bisa multiline>

---RAG dan ---MEMORY dapat digunakan bersamaan dalam satu pesan. Urutan parsing: ---MEMORY diproses terluar, lalu ---RAG di dalamnya. Di UI, memori dirender sebagai tag berwarna violet.

Kebijakan Wajib RAG (Truthfulness & Correctness)

Sistem wajib menjawab berdasarkan konteks RAG agar informasi benar dan dapat dipertanggungjawabkan. Karena itu:

1. Semua user message di dataset wajib menyertakan ---RAG. Jika sebuah pesan pengguna tidak memiliki konteks RAG, AI tidak boleh menjawab langsung (DIRECT_REPLY) maupun menebak jawaban — karena tidak ada referensi terverifikasi untuk memastikan kebenaran.
2. Jika tidak ada RAG → FALLBACK_REPLY. AI memberikan jawaban aman: menginformasikan bahwa tidak ada referensi terverifikasi sehingga tidak dapat menjawab akurat, lalu meminta pengguna mengulang pertanyaan atau mengalihkan ke CS.
3. Jika RAG ada tetapi tidak relevan dengan pertanyaan pelanggan → FALLBACK_REPLY. Konteks yang tidak berkaitan tidak boleh dipaksa digunakan untuk menjawab; AI menyatakan konteks tidak relevan dan tidak dapat menjawab secara akurat.

Contoh perilaku ini ada di synthetic/no-rag-fallback.jsonl dan synthetic/rag-irrelevant-fallback.jsonl.

Sapaan Pelanggan & Personalisasi (synthetic/greetings.jsonl)

Aturan sapaan pada file synthetic/greetings.jsonl:

1. Gaya sapaan ditentukan sistem prompt — jika sistem prompt menulis sapa dengan "Bapak/Ibu", "Kak", "Mas/Mbak", atau "Saudara/Saudari", asisten wajib memakai sapaan itu dalam balasannya.
2. Arahan RAG menentukan slot yang digali — jika RAG menyebut "tanyakan nama dan alamat", asisten menanyakan nama dan alamat; jika "nama + nomor pesanan", dsb.
3. Personalisasi nama — jika pelanggan menjawab dengan nama, asisten memanggil pelanggan dengan sapaan + nama (misal "Kak Rizky", "Bapak Andi Wijaya") agar lebih personal.
4. Memori — jika ada ---MEMORY berisi nama pelanggan, asisten bisa langsung mempersonalisasi sapaan sejak awal (misal "Kak Rina").

Skenario mencakup sapaan formal (Bapak/Ibu, Saudara/Saudari), kasual (Kak, Mas/Mbak), sapaan sekali putar, slot filling multi-turn, dan personalisasi berbasis memori.

Contoh

{"role": "user", "content": "Kenapa obat herbal ini rasanya agak pahit ya? Apakah aman dikonsumsi oleh ibu hamil?\n---RAG\nJika pelanggan menanyakan keamanan produk untuk ibu hamil, arahkan ke konsultasi dokter spesialis kandungan\n---MEMORY\nPelanggan ini memiliki riwayat maag dan sensitif terhadap obat herbal baru"}

Enum final_ai_decision_type

Nilai	Arti	Contoh Skenario
DIRECT_REPLY	AI dapat menjawab sendiri tanpa bantuan manusia	Cek menu, cek status pesanan, info jam buka
REQUIRES_HUMAN_ASSISTANCE	AI harus eskalasi ke manusia	Komplain besar, keracunan, sewa tempat, barang hilang
FALLBACK_REPLY	AI memberikan jawaban aman karena di luar batas kemampuannya, tidak ada konteks RAG, atau RAG tidak relevan	Pertanyaan di luar SOP, medis sensitif, tanpa RAG, RAG tidak relevan

Cara Pakai untuk Training

1. Input: messages[:history_count] sebagai prompt/context
2. Target: messages[history_count:] — model harus belajar:
   • Kapan memanggil tool (via tool_calls di dalam pesan)
   • Kapan menjawab langsung
   • Kapan eskalasi
   • WAJIB menambahkan ----, decision:, dan reason: di akhir setiap pesan assistant yang berisi konten respons
3. tool_calls di level atas hanya sebagai definisi skema — eksekusi tool yang sesungguhnya ada di dalam messages dengan format OpenAI function calling

Contoh slicing

Entry 5 (order flow):

• messages = 7 pesan: [system, user, assistant, user, assistant(tc), tool, assistant]
• history_count = 2 → input = [system, user], target = 5 pesan sisanya

Skenario dalam Dataset

Domain	Jumlah
Restoran Rasa Nusantara	57
No RAG Context - Fallback (synthetic/no-rag-fallback.jsonl)	20
Irrelevant RAG Context - Fallback (synthetic/rag-irrelevant-fallback.jsonl)	20
Greeting & Personalization (synthetic/greetings.jsonl)	20
Product Catalog (synthetic/product-catalog.jsonl)	20
Restaurant Catalog (synthetic/restaurant-catalog.jsonl)	20
Umroh Catalog (synthetic/umroh-catalog.jsonl)	21
Digital Product Catalog (synthetic/digital-product-catalog.jsonl)	20
Concise RAG Answer (synthetic/concise-rag-answer.jsonl)	24
JSON Array Answer (synthetic/json-array-answer.jsonl)	19
Incremental Info (synthetic/incremental-info.jsonl)	20
E-commerce tracking	1
E-commerce & Warranty Claim	1
Banking	1
ISP technical support	1
Gadget store returns	1
Herbal store safety	1
Digital bank fraud	1
Hotel reservation	1
Courier service	1
HR medical claim	1
Restaurant finder	1
Restaurant kitchen notification	1
Hotel housekeeping request	1
Clinic pharmacy notification	1
Office maintenance request	1
Warehouse logistics change	1
Bank fraud alert	1
Hospital lab notification	1

Known Issues / Quirks

1. Typo tool name — Entry 13 panggil get_ingredient_infox, respons get_ingredient_info. Entry 29 panggil get_restaurant_infox, respons get_restaurant_info.
2. Typo system prompt — Entry 32: "meupakan" → "merupakan".
3. Skema parameter search_menu tidak seragam — Parameter berubah-ubah: category, dietary_tag, query, sort_by, tag, allergen, notes.
4. tool_calls terkadang hanya dekoratif — Beberapa entry mencantumkan tool di tool_calls tapi tidak pernah dipanggil (misal synthetic/sample.jsonl baris 10).
5. Deskripsi tool naratif — Deskripsi tool ditulis ulang per entry, tidak konsisten untuk tool yang sama.

License

Belum ditentukan.