Update README.md
Browse files
README.md
CHANGED
@@ -57,3 +57,17 @@ configs:
|
|
57 |
- split: train
|
58 |
path: 50%/train-*
|
59 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
57 |
- split: train
|
58 |
path: 50%/train-*
|
59 |
---
|
60 |
+
# ABEJA-CC-JA-edu
|
61 |
+
## Summary
|
62 |
+
このデータセットは[株式会社ABEJA](https://www.abejainc.com/)が公開する[ABEJA-CC-JA](https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409)に対し、
|
63 |
+
[tokyotech-llm/edu-classifier](https://huggingface.co/tokyotech-llm/edu-classifier)でフィルタリングしたものとなります。
|
64 |
+
|
65 |
+
## 10%
|
66 |
+
LLM-based classifierで上位10%のスコアの文章です。閾値には`>= 1.9`を使用しました。
|
67 |
+
|
68 |
+
## 30%
|
69 |
+
LLM-based classifierで上位30%のスコアの文章です。閾値には`>= 1.02`を使用しました。
|
70 |
+
|
71 |
+
## 50%
|
72 |
+
LLM-based classifierで上位50%のスコアの文章です。閾値には`>= 0.98`を使用しました。
|
73 |
+
|