ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

MinerU模型下载与离线部署:3步把PDF解析跑进内网

MinerU模型下载与离线部署:3步把PDF解析跑进内网 MinerU模型下载与离线部署3步把PDF解析跑进内网【免费下载链接】MinerUA high-quality tool for convert PDF to Markdown and JSON.一站式开源高质量数据提取工具将PDF转换成Markdown和JSON格式。项目地址: https://gitcode.com/OpenDataLab/MinerUMinerU可以把PDF转成Markdown和JSON但它背后依赖的7个pipeline模型动辄几个GB。这篇文章教你三件事模型源怎么切、离线机怎么预置、常见报错怎么排看完就能在内网环境跑通解析。 内网一跑就卡下载想象你刚把MinerU部署到一台内网服务器输入一份PDF就等结果。结果进程半天没动静日志里全是HuggingFace连接超时。问题不在解析本身而在模型文件还没落盘。MinerU的下载逻辑是首次运行需要拉取模型内网机器拉不到任务自然卡死。解决思路只有一条在联网机器上把模型搬到本地内网只读本地文件。 模型源切换的两种方式把模型下载想象成快递驿站取件。第一步查库看本地缓存里有没有货第二步选网点HuggingFace和ModelScope两个源哪个网络通畅走哪个第三步入库登记把本地路径写进配置文件下次直接取件不再重新下单。下面这条命令会拉取全部7个pipeline模型并自动完成登记# 联网机器上执行显式指定ModelScope源国内网络更快 mineru-models-download -s modelscope -m pipeline不想每次敲参数也可以用环境变量固定来源# 会话级固定模型源之后所有下载命令都走它 export MINERU_MODEL_SOURCEmodelscope两种方式的差别在于作用域命令行参数只管这一次环境变量管这个终端会话。配置模板在仓库根目录的mineru.template.json完整机制源码在mineru/utils/models_download_utils.py想深入可以看这两处。 离线环境预置模型步骤整个搬迁过程就4步全程不需要内网机器碰外网在联网机器执行mineru-models-download -s modelscope -m pipeline下载完成后控制台会打印模型落盘目录。把该目录用tar或scp整体拷到内网机器的相同路径。把下载工具自动生成的~/mineru.json一起拷过去这是模型路径的取件码。在内网机器执行下面命令验证# 验证用本地模型解析一份小PDF mineru -p demo/pdfs/small_ocr.pdf -o ./out⚙️ 配置文件字段逐项说明~/mineru.json是唯一的配置入口每个字段的含义如下{ model-source: modelscope, // 模型来源modelscope / huggingface内网机器可填任意远端值以models-dir为准 models-dir: { pipeline: /data/mineru_models, // pipeline模型根目录离线机改成你的实际路径 vlm: // VLM模型根目录不用VLM留空即可 }, config_version: 1.3.2 // 配置模板版本低于当前版本时会自动合并更新 }要点只有一个离线机上models-dir.pipeline必须指向真实存在的模型目录否则程序会回退去联网下载。⚠️ 排坑3个高频问题1. 卡在auto探测阶段auto会先请求HuggingFace列表页探测网络超时3秒、重试2次才回落到ModelScope。内网机器直接等满超时像死机。 → 显式指定来源别让程序猜-s modelscope或export MINERU_MODEL_SOURCEmodelscope。2. 拷完模型仍然尝试联网只搬了模型目录没搬~/mineru.json或者文件里models-dir.pipeline还是空字符串。 → 配置和模型必须成对迁移迁移后先cat ~/mineru.json核对一遍。3. 磁盘空间不够7个pipeline模型加上VLM整仓合计接近40GB缓存目录默认在用户主目录下。 → 下载前确认主分区余量空间紧张就只下载用到的类型比如-m pipeline跳过VLM。4. 换机器后重复下载换目录、换用户后路径变了程序找不到旧缓存重新拉一遍。 → 固定一个模型根目录机器间保持路径一致省掉重复下载。行动清单开发环境✅ 显式设置MINERU_MODEL_SOURCE别依赖auto探测✅ 只下载当前要跑的类型用-m pipeline或-m vlm控制范围测试环境✅ 固定models-dir路径保证多次测试结果可比✅ 模型与配置文件备份成对一起打镜像生产环境✅ 离线机只改models-dir指向杜绝运行时联网✅ 升级MinerU版本前先查模型清单是否变化避免新旧模型混用【免费下载链接】MinerUA high-quality tool for convert PDF to Markdown and JSON.一站式开源高质量数据提取工具将PDF转换成Markdown和JSON格式。项目地址: https://gitcode.com/OpenDataLab/MinerU创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表