SmolDocling:將復雜的文檔轉換為結構化文本的輕量型視覺語言模型
SmolDocling是什么?
SmolDocling 是由 IBM Research 和 Hugging Face 聯合開發的輕量型視覺語言模型,專為端到端多模態文檔轉換而設計。它僅包含 256M 參數,能夠在消費級 GPU 上快速處理文檔,每頁文檔的處理時間僅需 0.35 秒。SmolDocling 的核心使命是將任意圖片中的復雜內容轉化為可編輯的結構化數據。
SmolDocling功能
DocTags 用于高效標記:引入 DocTags,這是一種高效且簡潔的文檔表示方式,與 DoclingDocuments 完全兼容。
OCR(光學字符識別):能夠從圖像中準確提取文本。
布局和定位:保留文檔結構和文檔元素的 邊界框。
代碼識別:檢測并格式化代碼塊,包括縮進。
公式識別:識別并處理數學表達式。
圖表識別:提取并解釋圖表數據。
表格識別:支持帶列標題和行標題的結構化表格提取。
圖形分類:區分圖形和圖形元素。
標題對應:將標題與相關圖像和圖形鏈接起來。
列表分組:正確組織和結構化列表元素。
全頁轉換:處理整個頁面,包括頁面上的所有元素(代碼、方程、表格、圖表等)。
OCR 帶邊界框:使用邊界框進行 OCR 區域識別。
通用文檔處理:適用于科學和非科學文檔的訓練。
無縫 Docling 集成:可以導入到 Docling 并以多種格式導出(如 HTML、Markdown 等)。
快速推理:在 A100 GPU 上平均每頁處理時間為 0.35 秒。
模型擴展與優化
支持多種指令:支持多種指令,例如將頁面轉換為 DocTags、將圖表轉換為表格、將公式轉換為 LaTeX 等。
多語言支持:雖然主要支持英語,但可能通過擴展支持更多語言。
持續改進:改進圖表識別、支持多頁推理、化學識別等功能。
SmolDocling應用場景
學術研究:快速將學術論文和研究報告轉換為結構化格式,便于提取關鍵信息。
商業文檔處理:自動轉換商業合同、報告和表格,便于企業進行文檔存儲、檢索和分析。
技術文檔管理:將技術手冊、代碼文檔等轉換為可編輯格式,支持代碼片段的準確識別和格式化。
教育領域:將教材、講義中的內容(如公式、圖表)提取并轉換為易于理解的格式。
醫療文檔處理:處理醫療報告和研究論文,提取關鍵信息,輔助醫療決策。
移動與低資源設備支持:可在移動設備或資源受限的環境中運行。
SmolDocling使用方法
模型下載:可以從 Hugging Face 模型庫下載 SmolDocling。
本地部署:由于其體積小,可在普通筆記本電腦或移動設備上運行。
API 調用:可以通過 Hugging Face 提供的 API 接口調用 SmolDocling。
微調模型:開發者可以通過微調模型適配特定場景,如醫療報告解析、財務表格識別。
Hugging Face 模型庫:https://huggingface.co/ds4sd/SmolDocling-256M-preview
DEMO:https://huggingface.co/spaces/ds4sd/SmolDocling-256M-Demo