LFM2.5-1.2B-Thinking-ONNX_rai_1.7.1震撼发布AMD Ryzen AI优化的轻量级大模型来了【免费下载链接】LFM2.5-1.2B-Thinking-ONNX_rai_1.7.1项目地址: https://ai.gitcode.com/hf_mirrors/amd/LFM2.5-1.2B-Thinking-ONNX_rai_1.7.1LFM2.5-1.2B-Thinking-ONNX_rai_1.7.1是一款由AMD优化的轻量级大模型专为Ryzen AI 1.7.1环境打造基于Liquid AI LFM2.5-1.2B-Thinking-ONNX基础模型构建为开发者和AI爱好者提供了高效的本地运行体验。 模型核心亮点✨ 轻量级架构设计该模型采用创新的混合层结构结合卷积层与全注意力机制在config.json中可以看到其包含16个隐藏层其中交替使用conv和full_attention层类型既保证了计算效率又兼顾了模型性能。 AMD Ryzen AI优化特别针对Ryzen AI硬件加速进行了深度优化通过ryzenai_ep_utils.py脚本实现了与ONNX Runtime的无缝集成默认配置了onnxruntime_providers_ryzenai.dll的路径确保在AMD处理器上发挥最佳性能。⚡ 高效量化技术采用2-bit量化模式group_size64在保持模型性能的同时显著降低了内存占用和计算需求使普通设备也能流畅运行大模型推理任务。 快速开始指南1️⃣ 环境准备激活Ryzen AI 1.7.1 conda环境克隆仓库git clone https://gitcode.com/hf_mirrors/amd/LFM2.5-1.2B-Thinking-ONNX_rai_1.7.12️⃣ 运行步骤将Run-LFM2.py和ryzenai_ep_utils.py复制到运行目录执行命令python Run-LFM2.py -m model repo⚠️ 注意事项如果Ryzen AI未安装在默认路径需要修改ryzenai_ep_utils.py中第16行的_EP_PATH变量指向正确的onnxruntime_providers_ryzenai.dll路径。 技术规格参数详情模型类型Lfm2ForCausalLM隐藏层大小2048注意力头数32最大序列长度128000词汇表大小65536量化配置2-bit affine量化group_size64支持精度bfloat16 许可证信息该项目采用MIT许可证详细信息参见LICENSE文件。基础模型许可证信息可在LICENSE中查看。Modifications copyright(c) 2026 Advanced Micro Devices, Inc. All rights reserved.【免费下载链接】LFM2.5-1.2B-Thinking-ONNX_rai_1.7.1项目地址: https://ai.gitcode.com/hf_mirrors/amd/LFM2.5-1.2B-Thinking-ONNX_rai_1.7.1创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考