metadata
license: apache-2.0
这是MNBVC多模态语料小组的通用语料的格式展示。
文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数,它产生一个128位(16字节)的哈希值,通常用于确保数据的完整性。在这里,它可以用来唯一标识文件,或者检查文件是否被更改。
文件id: 文件的唯一标识符。这可以是一个数据库中的主键,或者任何用于唯一标识文件的系统。
页码: 如果数据源是一个多页文档(如PDF文件),这个字段表示文本或图片所在的具体页码。特别注意的是,假如页码为 -1 意味着这存储的是metadata。
段落id: 在文档中,特定段落的唯一标识。这可以用于标识文本或图片所在的具体段落。段落的定义其实主要用以区分“模态”,所以对于文本来说,可以是多段的文本,也可能是单段的,取决于使用者的实际情况。
文本: 存储文档中的文本内容。这可以是整个文档的文本,或者是特定段落或页面的文本。
图片: 如果文档中包含图片,这个字段存储图片的数据。
时间: 记录数据处理的时间。
数据类型: 指示存储在该行中的数据类型。例如,它可以是“文本”、“图片”或其他任何类型,用于区分不同类型的数据或内容。