File size: 6,854 Bytes
0359f96 03754b4 3d11728 0359f96 3d11728 a3f47f2 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 |
---
license: mit
task_categories:
- text-classification
- summarization
tags:
- finance
size_categories:
- n<1K
language:
- zh
---
# 基于CCF23-EVAL任务6的电信网络诈骗案件数据集合成了风险短信与对话数据集，并基于多样性、任务相关性和是否满足人类偏好进行筛选，可用于风险细粒度分类任务和风险摘要生成任务测评。
### 短信生成数据集筛选前后的评价结果比较
| 数据集 | 数据评估指标 | 案例生成方式 | 属性提示生成方式 | 案例生成方式 | 属性提示生成方式 |
|------------|----------------------|--------------|------------------|--------------|------------------|
| | 余弦相似度↓ | | | | |
| 所有类别 | | 0.7149 | **0.6943** | 0.7041 | **0.6704** |
| 冒充电商物流客服类 | | 0.7542 | **0.6981** | 0.7606 | **0.7331** |
| 虚假网络投资理财类 | | 0.7967 | **0.7120** | 0.8029 | **0.7108** |
| 虚假信用服务类 | | 0.7840 | **0.7050** | 0.7738 | **0.7010** |
| 虚假购物、服务类 | | 0.7088 | **0.6931** | 0.6879 | **0.6672** |
| 冒充公检法及政府机关类 | | 0.7979 | **0.7088** | 0.7835 | **0.6935** |
| 冒充领导、熟人类 | | 0.7765 | **0.7063** | 0.7540 | **0.7132** |
| 网络婚恋、交友类 | | 0.7469 | **0.6972** | 0.7904 | **0.7383** |
| 冒充军警购物类诈骗 | | 0.8091 | **0.6913** | **0.7877** | 0.7942 |
| 网黑案件 | | 0.8019 | **0.6989** | 0.8847 | **0.7993** |
| 无风险 | | 0.7231 | **0.6965** | 0.7029 | **0.6758** |
| | 欧氏距离↑ | | | | |
| 所有类别 | | 0.6968 | **0.7184** | 0.7063 | **0.7413** |
| 冒充电商物流客服类 | | 0.6544 | **0.7148** | 0.7251 | **0.7445** |
| 虚假网络投资理财类 | | 0.5992 | **0.7004** | 0.6191 | **0.7195** |
| 虚假信用服务类 | | 0.6186 | **0.7077** | 0.6549 | **0.6986** |
| 虚假购物、服务类 | | 0.7037 | **0.7196** | 0.6050 | **0.6736** |
| 冒充公检法及政府机关类 | | 0.5961 | **0.7034** | **0.6136** | 0.6041 |
| 冒充领导、熟人类 | | 0.6251 | **0.7061** | 0.4655 | **0.6005** |
| 网络婚恋、交友类 | | 0.6617 | **0.7157** | 0.7099 | **0.7365** |
| 冒充军警购物类诈骗 | | 0.5812 | **0.7214** | 0.6439 | **0.6773** |
| 网黑案件 | | 0.5912 | **0.7139** | 0.5921 | **0.7023** |
| 无风险 | | 0.6875 | **0.7161** | 0.6317 | **0.7112** |
| | 任务相关性↑ | **0.5665** | 0.5159 | **0.7775** | 0.7245 |
| | 人类偏好评分↑ | **1.5534** | 0.8722 | **1.9457** | 1.5478 |
---
### 对话生成数据集筛选前后的评价结果比较
| 数据集 | 数据评估指标 | 案例生成方式 | 属性提示生成方式 | 案例生成方式 | 属性提示生成方式 |
|------------|----------------------|--------------|------------------|--------------|------------------|
| | 余弦相似度↓ | | | | |
| 所有类别 | | 0.7910 | **0.7592** | 0.7456 | **0.7049** |
| 冒充电商物流客服类 | | 0.8172 | **0.7854** | 0.7966 | **0.7583** |
| 虚假网络投资理财类 | | 0.8452 | **0.8034** | 0.8134 | **0.7487** |
| 虚假信用服务类 | | 0.8452 | **0.8074** | 0.8099 | **0.7799** |
| 虚假购物、服务类 | | 0.7893 | **0.7618** | 0.7564 | **0.7238** |
| 冒充公检法及政府机关类 | | 0.8678 | **0.7966** | 0.8261 | **0.7515** |
| 冒充领导、熟人类 | | 0.8562 | **0.7744** | 0.7645 | **0.7525** |
| 网络婚恋、交友类 | | 0.8225 | **0.8260** | 0.7660 | **0.7912** |
| 冒充军警购物类诈骗 | | 0.8815 | **0.8594** | 0.8560 | **0.7843** |
| 网黑案件 | | 0.8745 | **0.8047** | 0.8224 | **0.7756** |
| 无风险 | | 0.7887 | **0.7672** | 0.7382 | **0.7115** |
| | 欧氏距离↑ | | | | |
| 所有类别 | | 0.6093 | **0.6486** | 0.6651 | **0.7085** |
| 冒充电商物流客服类 | | 0.5741 | **0.6161** | 0.6018 | **0.6507** |
| 虚假网络投资理财类 | | 0.5306 | **0.5913** | 0.5799 | **0.6622** |
| 虚假信用服务类 | | 0.5316 | **0.5849** | 0.5851 | **0.6241** |
| 虚假购物、服务类 | | 0.6119 | **0.6455** | 0.6532 | **0.6886** |
| 冒充公检法及政府机关类 | | 0.4893 | **0.6015** | 0.5618 | **0.6587** |
| 冒充领导、熟人类 | | 0.5098 | **0.6298** | 0.6416 | **0.6577** |
| 网络婚恋、交友类 | | **0.5652** | 0.5598 | **0.6416** | 0.6099 |
| 冒充军警购物类诈骗 | | 0.4664 | **0.5061** | 0.5140 | **0.6183** |
| 网黑案件 | | 0.4776 | **0.5910** | 0.5653 | **0.5938** |
| 无风险 | | 0.6122 | **0.6387** | 0.6737 | **0.7021** |
| | 任务相关性↑ | **0.5860** | 0.5577 | **0.7704** | 0.7498 |
| | 人类偏好评分↑ | 1.1921 | **1.5272** | 1.7836 | **1.9586** | |