Taklaxbr/regulation-retrieval

Not: Bu veri setinin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal veri seti newmindai tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.

🔗 Orijinal Kaynak: newmindai/regulation-retrieval 🔗 Derleyen Platform: VeriPazarı

Turkish Legal Özelge Corpus Veri Seti

📊 Veri Seti Özeti

Turkish Legal Özelge Corpus, Gelir İdaresi Başkanlığı (GİB) tarafından yayınlanan özelge (vergi hukuku kararları) kararlarından oluşan kapsamlı bir Bilgi Çıkarımı (Information Retrieval - IR) veri setidir.

Öne Çıkan Özellikler

• Format: BEIR (Benchmarking IR) formatı; corpus-queries-qrels yapısı.
• Dil: Türkçe 🇹🇷
• Alan (Domain): Vergi Hukuku, İdare Hukuku, Türk Hukuku
• Kaynak: GİB Özelge Kararları
• Kullanım Alanları: Bilgi çıkarımı (IR), soru-cevap sistemleri, RAG (Retrieval-Augmented Generation) uygulamaları.

---

Veri Seti Yapısı

Veri seti BEIR formatını takip eder ve üç ana bileşenden oluşur:

1. Corpus (Derlem)

Özelgelerin tam metinlerini içeren ana belge koleksiyonudur. (_id, text)

2. Queries (Sorgu Koleksiyonu)

Her bir belge (doküman) için 7 farklı perspektiften çıkarılmış yasal bilgi parçalarıdır.

7 Sorgu Türü:

1. Konu (Subject): Özelgenin ana konusu
2. Madde Metni (Article Text): İlgili kanun maddelerinin metni
3. Tebliğ Metni (Communique Text): İlgili tebliğ ve sirkülerlerin içeriği
4. Yönetmelik Metni (Regulation Text): Yönetmelik ve mevzuat metinleri
5. Gerekçe Metni (Justification Text): Hukuki gerekçeler
6. Karar Metni (Decision Text): İdari görüşler ve nihai kararlar
7. Şart Metni (Condition Text): Uygulama koşulları ve gereksinimleri

3. Default (İlişki / Relevance Matrisi)

Hangi sorgunun hangi belgeye ait olduğunu gösteren ilişki tablosudur. (query-id, corpus-id, score=1)

---

Tokenizer Kıyaslaması (Benchmark) ve Veri Filtreleme Özeti

Bu işlem bir eğitim hatası veya başarısızlığı değildir. Model eğitiminden önce gerçekleştirilen bir veri analizi ve ön işleme adımıdır.

Token (kelime parçacığı) uzunluklarını ölçmek ve aşırı uzun dizilimlere sahip uç değerleri (outliers) tespit etmek için tüm veri setleri üzerinde yedi farklı tokenizer (MPNet, Qwen2, Gemma, XLM-R, BERT, Pretrained, T5) test edilmiştir.

Bunlar arasında MPNetTokenizerFast, en yüksek toplam token sayısını üreterek olağandışı uzun örnekleri tespit etmede en hassas tokenizer olmuştur. MPNet referans alınarak, veri setine özgü ortalamayı ~7000 token aşan örnekler kaldırılmıştır. Bu filtreleme, dengeli bir dizi (sequence) dağılımı ve daha temiz bir girdi verisi sağlamak için her veri setine bağımsız olarak uygulanmıştır.

(Not: Bu işlem sonucunda regulation-retrieval veri setinden 1.300 örnek silinmiş, geriye tertemiz 121.300 örnek kalmıştır.)

---

Veri Seti İstatistikleri

Genel İstatistikler:
├─ Corpus (Belge) Kayıtları: 23.701 belge
├─ Query (Sorgu) Kayıtları: 121.198 sorgu
└─ Relevance (İlişki) Kayıtları: 121.198 ilişki

Belge Başına Düşen:
├─ 1 corpus girişi (özelgenin tam metni)
├─ 2–7 arası sorgu (farklı yasal perspektifler)
└─ Belge başına ortalama ~5.1 sorgu

Alan Kapsamı (Belge Başına Sorgu Sayısı)

Ortalama olarak, her bir özelge farklı hukuki alanlara karşılık gelen yaklaşık 5.1 farklı sorgu ile temsil edilmektedir. Diğer bir deyişle, derlemin yaklaşık %61'i 5 veya daha fazla sorgu türü barındırmaktadır. Bu da verileri sığ (tek etiketli) örnekler olmak yerine zengin, çok perspektifli hukuki vakalar haline getirir.

Metin Uzunluğu Dağılımı

Corpus (Belge) Metinleri İçin (Referans, hukuki gerekçeler ve atıflarla dolu yoğun uzun metinlerdir):

• Ortalama uzunluk: ~1.736 kelime
• Medyan (p50): ~1.658 kelime
• %90'lık dilim (p90): ~2.393 kelime

Query (Sorgu) Metinleri İçin (Kısa hukuki sorular, konu özetleri veya kanunlardan alıntılara benzerler):

• Ortalama uzunluk: ~41.6 kelime
• Medyan (p50): ~24 kelime
• %90'lık dilim (p90): ~97 kelime

---

Kullanım Alanları (Use Cases)

1. Bilgi Çıkarım (Information Retrieval) Sistemleri

• Semantik arama modellerinin eğitimi
• Yoğun (Dense) retrieval sistemleri (DPR, ANCE, ColBERT)
• Seyrek (Sparse) retrieval sistemleri (BM25, TF-IDF) kıyaslaması

2. RAG (Retrieval-Augmented Generation) Uygulamaları

• Hukuki sohbet botları (Legal chatbots)
• Vergi danışmanlığı asistanları
• Otomatik özelge analiz sistemleri

3. Soru-Cevap (QA) Sistemleri

• Hukuki QA modelleri
• Çıkarımsal (Extractive) ve Özetleyici (Abstractive) QA
• Çok adımlı mantıksal çıkarım (Multi-hop reasoning)

4. 📊 Model Değerlendirmesi (Evaluation)

• Türkçe IR modellerinin kıyaslanması (Benchmarking)
• Bilgi getirme (retrieval) performans analizi
• Alan uyarlaması (Domain adaptation) çalışmaları

---

Etik ve Yasal Uyarılar / Lisans

Bu veri seti CC-BY 4.0 (orijinal depoda Apache 2.0 olarak da belirtilmiştir) lisansı altında yayınlanmıştır. Lütfen kullanırken kaynağa atıfta bulunun. Verilerin tamamı Türkiye Gelir İdaresi Başkanlığı'nın resmi özelge kararlarından derlenmiştir.

Atıf (Citation)

@article{mecellem2026,
  title={Mecellem Models: Turkish Models Trained from Scratch and Continually Pre-trained for the Legal Domain},
  author={Uğur, Özgür and Göksu, Mahmut and Çimen, Mahmut and Yılmaz, Musa and Şavirdi, Esra and Demir, Alp Talha and Güllüce, Rumeysa and Çetin, İclal and Sağbaş, Ömer Can},
  journal={arXiv preprint arXiv:2601.16018},
  year={2026},
  month={January},
  url={https://arxiv.org/abs/2601.16018},
  doi={10.48550/arXiv.2601.16018},
  eprint={2601.16018},
  archivePrefix={arXiv},
  primaryClass={cs.CL}
}

---

Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı kuralımız gereği lisans ve model isimleri korunmuştur.