hammershock
commited on
Commit
•
9af3e59
1
Parent(s):
f4b7551
Update README.md
Browse files
README.md
CHANGED
@@ -14,14 +14,14 @@ size_categories:
|
|
14 |
|
15 |
2024-05-26之前`红警HBK08`所有视频的数据集,数据来源于网络爬虫
|
16 |
|
17 |
-
1. `metadata.
|
18 |
-
2. `raw_data
|
19 |
-
3. `
|
20 |
- `<begin>`: 正文开始
|
21 |
- `<ad_begin>`: 广告开始
|
22 |
- `<ad_end>`: 广告结束
|
23 |
- `[discarded]`: 标记这个文档被丢弃
|
24 |
4. `ad_key_words.txt`: 广告关键词
|
25 |
-
5. `corrected_data.
|
26 |
- 主要采用文本替换+少量人工校对替换错误的字幕
|
27 |
- 少量以`[verified]`标签开头的经过了人工听写校对
|
|
|
14 |
|
15 |
2024-05-26之前`红警HBK08`所有视频的数据集,数据来源于网络爬虫
|
16 |
|
17 |
+
1. `metadata.tsv`: 视频元数据: 包括url,bvid, UP主,标题,播放量,日期,时长;
|
18 |
+
2. `raw_data.json`: 原始视频字幕信息
|
19 |
+
3. `text_cut.json`: 文本分割标注,标记了充电投币感谢,以及视频中出现的广告
|
20 |
- `<begin>`: 正文开始
|
21 |
- `<ad_begin>`: 广告开始
|
22 |
- `<ad_end>`: 广告结束
|
23 |
- `[discarded]`: 标记这个文档被丢弃
|
24 |
4. `ad_key_words.txt`: 广告关键词
|
25 |
+
5. `corrected_data.tsv`: 粗略清洗的文本数据
|
26 |
- 主要采用文本替换+少量人工校对替换错误的字幕
|
27 |
- 少量以`[verified]`标签开头的经过了人工听写校对
|