Datasets:
文件md5
stringclasses 1
value | 文件id
int64 1
1
| 页码
int64 1
1
⌀ | 块id
int64 1
3
⌀ | 文本
stringclasses 3
values | 图片
unknown | 处理时间
unknown | 数据类型
stringclasses 3
values | bounding box
null | 额外信息
stringclasses 2
values |
|---|---|---|---|---|---|---|---|---|---|
38ac8fea70e0cae28c65433a63849761 | 1 | null | null | null | null | "2023-11-11T17:57:38.860696" | metadata | null | {
"Title": "示例文档标题",
"Author": "示例作者",
"Subject": "示例主题",
"Keywords": "示例, PDF, 元数据",
"Creator": "示例创建者软件",
"Producer": "PDF生成器",
"CreationDate": "D:20230101120000+00'00'",
"ModDate": "D:20230301123000+00'00'"
}
|
38ac8fea70e0cae28c65433a63849761 | 1 | 1 | 1 | # Markdown 是什么？
Markdown 是一种轻量级的标记语言，可用于在纯文本文档中添加格式化元素。Markdown 由 John Gruber 于 2004 年创建，如今已成为世界上最受欢迎的标记语言之一。
1. 专注于文字内容；
2. 纯文本，易读易写，可以方便地纳入版本控制；
3. 语法简单，没有什么学习成本，能轻松在码字的同时做出美观大方的排版。
使用 Markdown 与使用 Word 类编辑器不同。在 Word 之类的应用程序中，单击按钮以设置单词和短语的格式，并且，更改立即可见。而 Markdown 与此不同，当你创建 Markdown 格式的文件时，可以在文本中添加 Markdown 语法，以指示哪些单词和短语看起来应该有所不同。
例如，要表示标题，只须在短语前面添加一个井号即可（例如，`# Heading One`）。或者要加粗一个短语，只须在短语前后各加两个星号即可（例如，`**this text is bold**`）。可能需要一段时间才能习惯在文本中看到 Markdown 语法，尤其是如果你已习惯了所见即所得的应用程序。以下屏幕截展示了 Markdown 文件在 [Notepad++ 文本编辑器] 中显示的效果。
| null | "2023-11-11T17:57:38.860696" | 文本 | null | null |
38ac8fea70e0cae28c65433a63849761 | 1 | 1 | 2 | 这是关于图片的一个注释 | null | "2023-11-11T17:57:38.860696" | 图片 | null | {
"Format": "jpg",
"Length": "222",
"Width": "111"
} |
38ac8fea70e0cae28c65433a63849761 | 1 | 1 | 3 | 你可以使用文本编辑器为纯文本文件添加 Markdown 格式的元素。或者，你也可以安装针对 macOS、Windows、Linux、iOS 和 Android 操作系统的 Markdown 应用程序。或者还可以使用一些基于 Web 的应用程序用于 Markdown 编写。
依赖于你所使用的应用程序，你可能无法实时预览格式化的文档。但是没关系。根据 Gruber 的说法，Markdown 的语法被设计为可读性强且不显眼，因此即使 Markdown 文件中的文本未经过渲染也易于阅读。
> Markdown 语法的首要设计目标是尽可能易读。基于这个目标，Markdown 格式的文档能够以纯文本形式原样发布，而不会看起来像被填满了标签或格式化指令。
| null | "2023-11-11T17:57:38.860696" | 文本 | null | null |
这是MNBVC多模态语料小组的图文通用语料的格式展示。
字段说明：
文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数，它产生一个128位（16字节）的哈希值，通常用于确保数据的完整性。在这里，它可以用来唯一标识文件，或者检查文件是否被更改。
文件id: 文件的唯一标识符。这可以是一个数据库中的主键，或者任何用于唯一标识文件的系统。
页码: 如果数据源是一个多页文档（如PDF文件），这个字段表示文本或图片所在的具体页码。
块id: 在文档中，特定块（block）的唯一标识。这可以用于标识文本或图片所在的具体块（block）。块（block）的定义其实主要用以区分“模态”，所以对于文本来说，可以是多段的文本，也可能是单段的，取决于使用者的实际情况。
文本: 存储文档中的文本内容。这可以是整个文档的文本，或者是特定段落或页面的文本。
图片: 如果文档中包含图片，这个字段存储图片的数据。
时间: 记录语料出现的时间（比如2000年的报纸，就填2000年xx月xx日，早于1970年出现的数据均填1970年1月1日00时00分00秒。如果时间完全无法确定，则填数据处理时间）。
数据类型: 指示存储在该行中的数据类型。目前包括：“文本”、“图片”两类，如有其他类型请联系本文档作者添加枚举字段。
bounding box: 四点坐标（两点坐标请补全到四点），用以支持版面分析等数据。请本文档作者补充数据示例。
额外信息: 存放各种额外信息，比如 在假如数据类型为图片，则存放的可以是一个json格式文本大字段(text存储，需要解析一下)。
关于图片，我们的保存方法是：
def read_image(image_path):
# 打开图像文件
with open(image_path, 'rb') as file:
image = Image.open(file)
# 将图像转换为二进制格式
img_byte_arr = io.BytesIO()
image.save(img_byte_arr, format=image.format)
img_byte_arr = img_byte_arr.getvalue()
return img_byte_arr
这个函数首先以二进制读模式打开指定路径的图像文件。然后，它使用PIL的Image.open方法来加载图像。为了将图像转换为二进制格式，我们创建了一个BytesIO对象，然后使用图像的save方法将其保存到这个内存中的字节流中。最后，使用getvalue方法获取字节流的内容，这将是图像的二进制表示。
在这段代码中，format=image.format确保图像以其原始格式保存。这样做是为了保持图像质量和格式的一致性，不管它最初是JPEG、PNG还是其他格式。
一个读取的方法：
import pandas as pd
from PIL import Image
import io
# 读取Parquet文件
df = pd.read_parquet('train.parquet')
# 遍历DataFrame的行
for index, row in df.iterrows():
# 处理图像数据
if row['图片'] is not None:
image_data = row['图片']
image = Image.open(io.BytesIO(image_data))
# 保存图像，文件名可以根据需求自定义
image.save(f'image_{index}.png')
- Downloads last month
- 0