File size: 3,035 Bytes
88cc347
 
 
f362d78
6b89d4e
f362d78
d5e7605
f362d78
 
 
 
 
08fdeeb
f362d78
148999f
f362d78
 
 
 
 
 
 
d5e7605
 
08fdeeb
 
 
 
d5e7605
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
---
license: apache-2.0
---

这是MNBVC多模态语料小组的**图文通用语料**的格式展示。

字段说明:

1. 文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数,它产生一个128位(16字节)的哈希值,通常用于确保数据的完整性。在这里,它可以用来唯一标识文件,或者检查文件是否被更改。

2. 文件id: 文件的唯一标识符。这可以是一个数据库中的主键,或者任何用于唯一标识文件的系统。

3. 页码: 如果数据源是一个多页文档(如PDF文件),这个字段表示文本或图片所在的具体页码。

4. 块id: 在文档中,特定块(block)的唯一标识。这可以用于标识文本或图片所在的具体块(block)。块(block)的定义其实主要用以区分“模态”,所以对于文本来说,可以是多段的文本,也可能是单段的,取决于使用者的实际情况。

5. 文本: 存储文档中的文本内容。这可以是整个文档的文本,或者是特定段落或页面的文本。

5. 图片: 如果文档中包含图片,这个字段存储图片的数据。

6. 时间: 记录数据处理的时间。

7. 数据类型: 指示存储在该行中的数据类型。例如,它可以是“文本”、“图片”或其他任何类型,用于区分不同类型的数据或内容。

8. bounding box: 四点坐标,用以支持版面分析等数据

9. 额外信息: 存放各种额外信息,比如 在假如数据类型为图片,则存放的可以是一个字典(text存储,需要解析一下)。

关于图片,我们的保存方法是:

```python
def read_image(image_path):
    # 打开图像文件
    with open(image_path, 'rb') as file:
        image = Image.open(file)
        # 将图像转换为二进制格式
        img_byte_arr = io.BytesIO()
        image.save(img_byte_arr, format=image.format)
        img_byte_arr = img_byte_arr.getvalue()
    return img_byte_arr

```

这个函数首先以二进制读模式打开指定路径的图像文件。然后,它使用PIL的Image.open方法来加载图像。为了将图像转换为二进制格式,我们创建了一个BytesIO对象,然后使用图像的save方法将其保存到这个内存中的字节流中。最后,使用getvalue方法获取字节流的内容,这将是图像的二进制表示。

在这段代码中,format=image.format确保图像以其原始格式保存。这样做是为了保持图像质量和格式的一致性,不管它最初是JPEG、PNG还是其他格式。

一个读取的方法:
```python
import pandas as pd
from PIL import Image
import io

# 读取Parquet文件
df = pd.read_parquet('train.parquet')

# 遍历DataFrame的行
for index, row in df.iterrows():
    # 处理图像数据
    if row['图片'] is not None:
        image_data = row['图片']
        image = Image.open(io.BytesIO(image_data))
        # 保存图像,文件名可以根据需求自定义
        image.save(f'image_{index}.png')
```