README.md

---
language:
- zh
multilinguality:
- monolingual
size_categories:
- 1M<n<10M
task_categories:
- feature-extraction
- sentence-similarity
pretty_name: DuReader
tags:
- sentence-transformers
dataset_info:
- config_name: triplet
  features:
  - name: anchor
    dtype: string
  - name: positive
    dtype: string
  - name: negative
    dtype: string
  splits:
  - name: train
    num_bytes: 151113618
    num_examples: 80416
  download_size: 104873213
  dataset_size: 151113618
- config_name: triplet-15
  features:
  - name: anchor
    dtype: string
  - name: positive
    dtype: string
  - name: negative_1
    dtype: string
  - name: negative_2
    dtype: string
  - name: negative_3
    dtype: string
  - name: negative_4
    dtype: string
  - name: negative_5
    dtype: string
  - name: negative_6
    dtype: string
  - name: negative_7
    dtype: string
  - name: negative_8
    dtype: string
  - name: negative_9
    dtype: string
  - name: negative_10
    dtype: string
  - name: negative_11
    dtype: string
  - name: negative_12
    dtype: string
  - name: negative_13
    dtype: string
  - name: negative_14
    dtype: string
  - name: negative_15
    dtype: string
  splits:
  - name: train
    num_bytes: 2925751192
    num_examples: 205182
  download_size: 878571176
  dataset_size: 2925751192
- config_name: triplet-all
  features:
  - name: anchor
    dtype: string
  - name: positive
    dtype: string
  - name: negative
    dtype: string
  splits:
  - name: train
    num_bytes: 5756777082
    num_examples: 3077730
  download_size: 878090368
  dataset_size: 5756777082
configs:
- config_name: triplet
  data_files:
  - split: train
    path: triplet/train-*
- config_name: triplet-15
  data_files:
  - split: train
    path: triplet-15/train-*
- config_name: triplet-all
  data_files:
  - split: train
    path: triplet-all/train-*
---

# Dataset Card for DuReader

This is a reformatting of the DuReader dataset used to train the [BGE-M3 model](https://huggingface.co/BAAI/bge-m3). See the full BGE-M3 dataset in [Shitao/bge-m3-data](https://huggingface.co/datasets/Shitao/bge-m3-data).

## Dataset Subsets

### `triplet` subset

* Columns: "anchor", "positive", "negative"
* Column types: `str`, `str`, `str`
* Examples:
    ```python
    {
      'anchor': '冰血暴好看吗',
      'positive': '有没有人看过?今天听说冰血暴特别好看,豆瓣上评分也很高。还有大家最近都在看什么剧,最近看完了几部以前很经典的剧,都是全部完结的,现在的新剧很多,大家推荐一下第 一季,相当精彩,久久不能平息!百度移动游戏玩家均可认证(限百度账号),去领取活动截止:2100-01-01等权利的游戏第六季,等的很辛苦!无耻之徒,摩登家庭,行尸走肉,绝命毒师。有网盘链接吗 --害怕的时候往床下看看, 你不是一个人 (´⊙ω⊙`)怎奈黎明不懂哀伤, 双人成单。谁能忘记那段时光, 离别容易再见难。登录百度帐号贴吧页面意见反馈 违规贴吧举报反馈通道 贴吧垃圾信息处理公示',
      'negative': '情怀游戏啊，大爱有没有？ 跟看了动漫13年了感觉不好玩割草游戏 以前玩三国无双都要玩吐了不好玩，跟2代一样没什么变化我啊 最近把黑暗之魂2  和 侠客通关  一直在等玩的是情怀名副其实、也就卖点情怀比较粉丝向，OP粉比较喜欢，比如我是挺期待的我玩单机都开修改器。。到时候除了就开无敌，看着多佛朗明哥一直在放技能，你就是打不死我，我就慢慢普通攻击磨死你，还有多爽割草啊不喜欢自带中文吗？ 大良心？我一直对无双类游戏情有独钟，而且也挺喜欢海贼王的，所以没什么理由不等这个。粉丝向游戏。。。大爱你还等pc版？我想玩究极风暴4'
    }
    ```
* Collection strategy: Reading the jsonl files in the `DuReader` directory in [Shitao/bge-m3-data](https://huggingface.co/datasets/Shitao/bge-m3-data) and taking only the first negative.
* Deduplified: No

### `triplet-15` subset

* Columns: "anchor", "positive", "negative_1", "negative_2", "negative_3", "negative_4", "negative_5", "negative_6", "negative_7", "negative_8", "negative_9", "negative_10", "negative_11", "negative_12", "negative_13", "negative_14", "negative_15"
* Column types: `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`, `str`
* Examples:
    ```python
    {
      'anchor': '微信分享链接打开app',
      'positive': 'iOS里,把一个页面链接分享给微信好友(会话),好友在微信里打开这个链接,也就是打开了一个网页,点击网页里的某个地方后(比如网页中“打开xx应用程序”的按钮),代码里怎么设置可以跳回到第三方app?知乎的ios客户端就有这种功能,在微信里分享链接后,点开链接,再点网页中的某处,就可以打开知乎客户端显示全部微信中不能用自定义url的方式,微信提供了打开第三方应用的接口:launch3rdApp谢。一般用自带浏览器可以调用起app没问题。微信里面能调出app的,是和腾讯有合作的应用,其他会被过滤掉。有一个公司的产品,叫 魔窗,免费可以接入的',
      'negative_1': '微信公众号,右上角分享,底部tab隐藏隐藏所有页面的分享功能,写在index.html即可<script>// var vConsole = new VConsole();document.addEventListener("WeixinJSBridgeReady",functiononBridgeReady(){// 通过下面这个API隐藏右上角按钮WeixinJSBridge.call("hideOptionMenu"); } );</script>复制代码显示分享',
      'negative_2': '1、打开手机微信,进入通讯录,搜索“文件传输助手”并添加。 2、电脑访问微信网页版,利用手机微信“扫一扫”功能即可登录微信网页端。或者下载微信PC版程序登录。 3、通过手机微信“文件传输助手”发送聊天文字、图片、网页链接等内容,即可登录电脑端微信查看相关内容。公众号中的文章,点击文章右上角,选择发送给朋友“文件传输助手”即可。 4、也可以通过电脑端微信将文字、图片、网页链接等内容发送出去,在手机微信上查看。',
      'negative_3': '相信有模拟微信页面请求的测试都有看到过这个页面,简单点说就是爬虫爬微信页面,进行回放的时候会出现这个页面。大概在1年前,专门安排了一个人去解决这个技术问题,遗憾的是当时没有找到解决方案,接下来所有微信端的接口测试和性能测试都无法进行,今天和大家分享下我们的解决方案,希望大家可以绕过微信的坑 。我这里以JMeter来举例,我们可以通过在JMeter上开启代理,手机上设置代理来录制微信端的请求,以下为在微信端的业务对应生成的脚本:录制完成后,我们进行回放,你会发现在查看结果树中,会重定向到微信授权,接着 就开始提示:请在微信客户端打开链接。这里我们看一下请在微信客户端打开链接页面对应的代码:',
      'negative_4': '1 是微信朋友圈设置权限问题(朋友圈编辑——谁可以看权限) 分享时选择了“公开”再发送,这样所有人 都可以看到你 的朋友圈,如图 2 是存在诱导关注,违反微信外部链接内容管理条例经腾讯自检机制发现后永久封禁了该 1)检测方法: 可以通过更换公众号 不更换链接的方法进行检测 若更换公众号不更换的链接的情况下,朋友可以看到分享内容,则公众号受限。 2)解决方法 活动内容不能出现诱导用户转发,分享拉票,关注充值等敏感字眼。可将转发 分享 拉票等敏感词调整为快带上的小伙伴来为您加油吧……..诸如此类正规语段,公众号受限的情况下可以通过邮件进行申诉,申诉方法如下 邮件标题格式:【朋友圈拦截咨询】“申诉人或企业” + “页面主题”; 邮件正文:请附上被拦截链接以及情况说明。发送moment@tencent.com。 如果你分享的内容没有问题,一般会直接解封;如果你的分享的内容有问题,例如诱导分享等,微信官方也会详细告知,修改后再次发送邮件申请就可以了,以下是几种违规实例的截图 3 是公众号分享链接被封 1 )检测方法: 域名被封会出现内容不出现 只出现链接的现象,或者点击链接会出现域名被封的字样,这样就可以确定是公众号分享域名被封了 2)解决方法: 域名被封只能通过更换公众号分享域名来解决',
      'negative_5': '一、先说整体的解决方案1、通过搜狗进 行公众号文章的采集,这样获取到的文章URL是一个带时间戳的临时链接。1)一个微信客户端:下载一个安卓模拟器,在这个模拟器上安装一个微信app。2)一个微信个人号:为了采集内容不仅需要微信客户端,还要有一个微信个人号专门用于发送临时链接。在2016年年初的时候微信公众号和微信文章开始使用https链接。并且Anyproxy可以通过修改rule向服务器发送请求。下面开始介绍安装与配置过程。PS:使用Anyproxy可以直接获取微信公 众号的全部文章(永久链接),包括点赞数,阅读数之类的信息。这样的话可以不用使用搜狗。不过这里会有些问题,微信会封你在做这个事情的微信个人号,所以我采取的是使用搜狗爬文章(急),再利用Anyproxy在临时链接有效时间内更新为永久链接。',
      'negative_6': '问题补充:网友答案在网盘里找个文件,点出分享按钮。如图:在打开的页面中点击,创建公开链接。如图:我来回答',
      'negative_7': '1、打开微信,点击通讯录。 2、公众号,进入公众号。 3、选择右上角的三个点,选择要下载的视频进入,三个点,复制链接。 4、打开qq浏览器,在搜索框中将链接粘贴上去,进入,点击视频进行播放。 5、全屏,下载,普通下载,完成后。 6、打开相册,视频,即可 看到刚下载好的视频。',
      'negative_8': '1、打开百度网盘,找到需要与好友分享的文件。 2、点击右边的小圆点,点击下方的“分享”,选择有效期设置。 3、点击“复制链接”,然后直接将链接粘贴给好友即可。',
      'negative_9': '首先,在微信平台上搜索独为信达,关注该观众号,关注了之后,左下角就会出现“获客宝”然后获客宝登录,授权下,您就可以进去了。进来之后你会看到有四种发布模式,分享图文、分享链接、分享文章、分享活动, 我们是要做微信活动报名链接的,我们选择分享活动。进入创建活动主页面,按照提示,填写活动标题、设置活动浏览量、活动购买/报名的数量、活动结束时间、联系电话、活动地址,背景音乐等,内容全部填写完之后,点击下一步。下一步就到了新建分享页面,这个的分享标题、分享描述,即显示在微信朋友圈里面的标题描述,在这里你可以设置这个活动是否是热文、是否展示你的名片、搜集客户的联系方式、是否使用红包拓客方式等。',
      'negative_10': '9.白名单IP地址列表：服务器的真实ip，只有在此ip下，才能使用相关接口三、 平台对接\xa0 \xa0（第三方接口申请完成后进行此操作）1、 进入总后台\xa0\xa0“站点管理” => “站点设置”=> “公众号授权”如果“站点设置”中没有“公众号授权”选项，请查看文档底部说明2、填写接口信息【主站】************************************【如果是加盟版本的代理商自己的后台也是要配置的】**********************资 料对应 微信开放平台（“管理中心” => “公众号第三方平台”）填写Appid、appSecret\xa0\xa0等信息',
      'negative_11': '一、微信朋友能gif图片的原因:1,用户需求角大部分用户没有发gif的需求。 一方面gif格图片难以制作,大部分用户还不需要用到这种表现形式。 另一方面发布动态影像的需求可以转移到朋友圈的”小视频”功能。 2,用户体验角度。 gif图片若不限制帧数,很占内存,导致微信运行缓慢、卡顿。 3,功能轻重角度。 可以看到朋友圈仅仅是微信的一个应用模块,是可以选择加装或卸载的。 因此,朋友圈不宜过重。 二、微信(英文名:wechat)是腾讯公司于2011年1月21日推出的一个为智能终端提供即时通讯服务的免费应用程序,微信支持跨通信运营商、跨操作系统平台通过网络快速发送免费(需消耗少量网络流量)语音短信、视频、图片和文字,同时,也可以使用通过共享流媒体内容的资料和基于位置的社交插件“摇一摇”、“漂流瓶”、“朋友圈”、”公众平台“ 、”语音记事本“等服务插件。 说说怎么分享 我也是受害者,已经报警,但还没动静。 微博名字:智商税已交,已发微博曝光,请求大家顶一下,拜托 什么叫共享经济 共享经济的本质其实是一句话,弱化“拥有权”,强调“使用 权”。 无论是资源还是技能,对于拥有者而言因为私有化而没有得到充分利用,如今得到更广阔的价值。 但你说这个概念是新创造吗',
      'negative_12': '微信内置浏览器不支持下载app(apk/ipa)软件的解决方法很多朋友 的APP推广链接需要在微信中进行的网页宣传、传播、下载等等,但是各位朋友一定发现了微信中是屏蔽掉了APP的下载链接的。主要是微信内置浏览器不支持下载app(安卓/苹果)。但是微信最为一个最大的社交平台,为了 自身的利益,屏蔽掉了所有APK的下载链接。我们要怎么解决这个问题呢?变通方法:如此一来我们就解决了域名被微信拦截而无法打开的问题了,那么接下来就可以在微信内大量的分享链接或二维码来进行宣传引流。不仅提高了用户体验,也能够极大地提高自己的APP在微信中的推广转化率,充分利用微信的用户群体来达到我们的期望',
      'negative_13': '1、在手机设置菜单中点击【应用】选项。 2、点击进入【应用分身】。 3、打开【微信】右侧的开关。 4、在桌面上分别打开两个微信app并登录微信号即可。',
      'negative_14': '操作方法 1. 先登录微信公众号账户,然后再点击新建素材,接着点击右侧的新建图文素材,这样就可以在里面进行编辑了,也能 让自己在文章中添加超级链接了。 2. 接着在文章里面输入文字,接着选中文字,然后再点击右上角的超链接,这时候就可以直接往文字中添加链接了。 3. 为文字输入网址,选中好文字以后就可以再网址中输入网址了,自己想添加什么链接直接在这里添加就可以了,这样能点击文字后就跳转到链接网页了。 4. 当然如果自己添加的链接是想要从别人的文章中获得的话,直接点击旁边的查找文章,然后就可以直接在这里看到一些文章,自己可以 直接选择了,这样会更方便一些的。',
      'negative_15': '步骤1:登录公众号后台,按以下图片两步走。 步骤2:输入“智未来page”-“下一步” 注:这里的“下一步”的按钮可能会被遮住,可以把框框拉上来点就能看见了哦。 步骤3:打开谷歌或360浏览器 步骤4:进入智未来主页,并注册登录使用。 步骤5:关联公众号并“立即创建页面” 步骤6:选择所需模板-“立即使用” 步骤7:编辑模板,并点完成 步骤8:复制小程序链接 步骤9:回到公众号后台,在自定义菜单中编辑子菜单-“选择菜单”-“跳转小程序”-“选择小程序”-选择“智未来page小程序”-“完成”-选择“备用链接”-“保存并发布”'
    }
    ```
* Collection strategy: Reading the jsonl files in the `DuReader` directory in [Shitao/bge-m3-data](https://huggingface.co/datasets/Shitao/bge-m3-data) and taking all samples that have 15 negatives (which is all).
* Deduplified: No

### `triplet-all` subset

* Columns: "anchor", "positive", "negative"
* Column types: `str`, `str`, `str`
* Examples:
    ```python
    {
      'anchor': '冰血暴好看吗',
      'positive': '有没有人看过?今天听说冰血暴特别好看,豆瓣上评分也很高。还有大家最近都在看什么剧,最近看完了几部以前很经典的剧,都是全部完结的,现在的新剧很多,大家推荐一下第 一季,相当精彩,久久不能平息!百度移动游戏玩家均可认证(限百度账号),去领取活动截止:2100-01-01等权利的游戏第六季,等的很辛苦!无耻之徒,摩登家庭,行尸走肉,绝命毒师。有网盘链接吗 --害怕的时候往床下看看, 你不是一个人 (´⊙ω⊙`)怎奈黎明不懂哀伤, 双人成单。谁能忘记那段时光, 离别容易再见难。登录百度帐号贴吧页面意见反馈 违规贴吧举报反馈通道 贴吧垃圾信息处理公示',
      'negative': '情怀游戏啊，大爱有没有？ 跟看了动漫13年了感觉不好玩割草游戏 以前玩三国无双都要玩吐了不好玩，跟2代一样没什么变化我啊 最近把黑暗之魂2  和 侠客通关  一直在等玩的是情怀名副其实、也就卖点情怀比较粉丝向，OP粉比较喜欢，比如我是挺期待的我玩单机都开修改器。。到时候除了就开无敌，看着多佛朗明哥一直在放技能，你就是打不死我，我就慢慢普通攻击磨死你，还有多爽割草啊不喜欢自带中文吗？ 大良心？我一直对无双类游戏情有独钟，而且也挺喜欢海贼王的，所以没什么理由不等这个。粉丝向游戏。。。大爱你还等pc版？我想玩究极风暴4'
    }
    ```
* Collection strategy: Reading the jsonl files in the `DuReader` directory in [Shitao/bge-m3-data](https://huggingface.co/datasets/Shitao/bge-m3-data) and taking only each negative, but making a separate sample with each of the negatives.
* Deduplified: No