欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 新闻 > 焦点 > 【文档智能】包含段落的开源的中文版面分析模型

【文档智能】包含段落的开源的中文版面分析模型

2024/11/8 0:30:13 来源:https://blog.csdn.net/yjh_SE007/article/details/139638153  浏览:    关键词:【文档智能】包含段落的开源的中文版面分析模型

github:https://github.com/360AILAB-NLP/360LayoutAnalysis

权重下载地址:https://huggingface.co/qihoo360/360LayoutAnalysis

一、背景

在当今数字化时代,文档版式分析是信息提取和文档理解的关键步骤之一。文档版式分析,也称为文档图像分析或文档布局分析,是指从扫描的文档图像中识别和提取文本、图像、表格和其他元素的过程。这项技术在自动化文档处理、电子数据交换、历史文档数字化等领域有着广泛的应用。

传统的文档版式分析模型往往难以准确区分文档中的段落和其他布局元素,这限制了文档信息的进一步处理和利用,而深度学习和模式识别技术的发展为文档版式分析带来了新的机遇,通过训练数据集,可以提高模型对文档结构的理解能力,但高质量的标注数据集是训练有效模型的基础。

在文档版式分析中,精细化的标注非常有必要,其中:段落的标注尤其关键,因为它直接影响到文本的语义理解和信息提取。当前,在版式分析领域,据我们了解,在论文场景中,以往的开源数据集如:CDLA(A Chinese document layout analysis),缺乏对段落信息的标注;在研报场景中的版式分析模型还相对空缺。

因此,为了解决这一问题,我们通过人工标注的方式对论文文档进行细粒度标签改造以及数据优化,并构建起研报场景细粒度版式分析数据集,最好利用这些标注数据集,训练了多个全新的中文文档版式分析模型,在封闭测试集上表现优异

本次开源,我们优先开源了面向论文研报两个场景的版面分析轻量化模型权重及相应的标签体系,旨在能够识别文档中的段落边界等信息,并准确区分文本、图像、表格、公式等其他元素,最终推动产业发展。

二、使用

  • 权重下载地址:🤗LINK

  • 使用方式:

    开源权重使用yolov8进行训练,预测方式如下:

    from ultralytics import YOLOimage_path = ''  # 待预测图片路径
    model_path = ''  # 权重路径
    model = YOLO(model_path)result = model(image_path, save=True, conf=0.5, save_crop=False, line_width=2)
    print(result)print(result[0].names)         # 输出id2label map
    print(result[0].boxes)         # 输出所有的检测到的bounding box
    print(result[0].boxes.xyxy)    # 输出所有的检测到的bounding box的左上和右下坐标
    print(result[0].boxes.cls)     # 输出所有的检测到的bounding box类别对应的id
    print(result[0].boxes.conf)    # 输出所有的检测到的bounding box的置信度
    

三、版面分析

3.1 论文场景

  • 标签类别

    元素名称
    Text正文(段落)
    Title标题
    Figure图片
    Figure caption图片标题
    Table表格
    Table caption表格标题
    Header页眉
    Footer页脚
    Reference注释
    Equation公式
  • 示例

3.2 研报场景

  • 标签类别

    元素名称
    Text正文(段落)
    Title标题
    Figure图片
    Figure caption图片标题
    Table表格
    Table caption表格标题
    Header页眉
    Footer页脚
    Toc目录
  • 示例

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com