法国AI初创公司ZML发布免费推理软件,支持多种AI芯片 📅 发布时间:2026/7/9 1:39:54 👁️ 浏览次数: 英伟达的市场主导地位尚未终结但来自各方的挑战者和替代选择正在不断涌现。法国热门AI初创公司ZML获得图灵奖得主杨立昆背书近日推出了一款推理性能软件可让多款开源大语言模型在多种芯片上运行涵盖英伟达、AMD、谷歌TPU、Apple Metal和英特尔Arc。ZML创始人斯蒂夫·莫兰在接受TechCrunch采访时表示公司新推出的大语言模型推理服务器ZML/LLMD旨在打破现有的技术壁垒让不同芯片以最高可用速度有时甚至更快支撑AI应用场景。莫兰指出随着AI逐步融入工作与日常生活推理优化即处理提示词的过程的重要性已超越模型训练但其背后往往存在诸多问题——软件与架构层面的障碍导致厂商锁定现象严重。在AI成本压力持续上升的背景下实现多种芯片的最优性能不仅是技术层面的突破也可能成为市场格局的颠覆因素。ZML希望为企业和云服务商提供混合使用多种芯片的选择其中一些芯片成本更低或能耗更少。我们的理念是让用户重新掌握构建自身系统的主动权实现真正的效率提升让AI得以更广泛地普及莫兰说道。莫兰观察到这类软件支持有助于新兴AI芯片厂商尤其是欧洲的一批企业包括Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA。不过在他看来比地域更重要的是ZML能与这些公司共同探索全球前所未有的事情。这并不意味着莫兰看空英伟达。恰恰相反部分原因在于英伟达现有的供应能力。他表示ZML与这家AI芯片巨头保持着良好关系而英伟达也一直在为推理需求的爆发做积极准备。推理领域的投资热度极高业界甚至将这一趋势称为推理淘金热。因此ZML面临多方竞争包括近期估值达130亿美元的Baseten、开源项目vLLM创始团队成立的Inferact以及SGLang背后的商业公司RadixArk。vLLM和SGLang与LLMD存在一定竞争关系但莫兰对ZML的期望远不止于此。我们已经到达参与芯片协同设计的阶段他说。他还表示ZML这支仅有20人的精干团队正是这家巴黎初创公司能够快速迭代、持续推出新产品的关键所在。小而精的团队背后资金实力同样不容小觑。凭借莫兰此前担任Zenly工程副总裁的成功经历——该公司于2017年被Snapchat以九位数价格收购——ZML从多家风险投资机构募得2000万美元投资方包括哈里·斯特宾斯创立的20VC、commit、AALVC、Drysdale Ventures、扎维尔·尼尔的Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures。与ZML于2024年发布、2025年3月更新的首个公开项目一款以推理为核心的机器学习框架不同ZML/LLMD并非开源但以免费产品形式上线初期目标是收集用户使用数据。我宁愿先观察和衡量再在最有效的地方实现变现而不是一开始就因为过于贪婪而自断增长之路莫兰说。ZML/LLMD何时转为付费产品、最终市场反响如何目前尚无定论。但从股东名单来看已有不少知名创始人给予关注包括Dagger和Docker创始人所罗门·海克斯、Hugging Face联合创始人克莱门特·德兰格和朱利安·肖蒙以及如今供职于AMI Labs的杨立昆。这也进一步印证了欧洲AI创业公司完全可以立足本土构建世界级产品的可能性。ZML只能诞生在巴黎莫兰说。QAQ1ZML/LLMD是什么它能解决什么问题AZML/LLMD是法国AI初创公司ZML推出的大语言模型推理服务器支持多款开源大语言模型在英伟达、AMD、谷歌TPU、Apple Metal、英特尔Arc等多种芯片上运行。它的核心价值在于打破软件与架构壁垒消除厂商锁定让不同芯片以最高可用速度支撑AI推理任务帮助企业实现混合芯片部署降低成本和能耗。Q2ZML/LLMD是免费的吗什么时候会收费A目前ZML/LLMD以免费产品形式上线ZML的目标是先积累用户使用数据再考虑在最合适的环节实现商业变现。创始人莫兰表示不希望因过早收费而阻碍产品增长。至于何时转为付费模式目前尚无明确时间表。Q3ZML面临哪些主要竞争对手AZML在推理优化市场面临多方竞争主要对手包括估值高达130亿美元的Baseten、由开源项目vLLM创始团队成立的Inferact以及SGLang背后的商业公司RadixArk。不过ZML创始人莫兰表示公司的目标比单纯的推理服务更为宏大已延伸至芯片协同设计领域。
AI Engineer 2026:从LLM API到生产的13步实战路线 # AI Engineer 2026:从LLM API到生产的13步实战路线 ## 一、背景与挑战 2025年秋,当我在面试一位自称“精通大模型开发”的候选人时,他的完整项目经验是“调用OpenAI的聊天补全接口做了一次情感分析”。这暴露出AI工程领域一个普遍问题&#… 2026/7/9 1:39:54
12 英寸单晶硅棒直拉法(CZ)工艺详解:温度梯度、旋转速度与缺陷控制 12英寸单晶硅棒直拉法工艺全解析:温度梯度、旋转动力学与晶体缺陷控制引言:单晶硅制造的精密艺术在半导体工业的基石中,单晶硅棒的制备堪称材料科学的巅峰之作。当一粒粒石英砂经历千度熔炼、分子重构,最终生长成完美晶格结构的圆… 2026/7/9 1:39:54
多模态大模型 5 大核心技术解析:从提示学习到 RLHF 的演进路径 多模态大模型 5 大核心技术解析:从提示学习到 RLHF 的演进路径 当GPT-4首次展示出能同时理解图像和文本的能力时,整个AI社区都意识到:多模态大模型的时代已经到来。这种能处理多种数据类型的模型,正在重新定义人机交互的边界。但很… 2026/7/9 1:37:53
操作系统:操作系统基础原理 操作系统基础原理本文系统介绍操作系统的基础原理,内容包括操作系统的角色、内核架构、进程与线程管理、CPU调度、内存管理、文件系统与I/O、并发与同步以及安全与保护机制,为理解和设计现代计算系统提供理论基础。图1:CPU时间在用户态、内核… 2026/7/9 2:56:15
Claude Code 高效编程实践 + 审查未提交代码 一、项目级:写好 CLAUDE.md(最重要)在项目根目录建 CLAUDE.md(提交进 Git 与团队共享),Claude Code 每次启动自动读取,相当于给 AI 注入"项目 README 编码规范":# 项目概… 2026/7/9 2:54:15
网络安全工具箱:100+ 工具分类速查与选型建议 文章目录 一、为什么需要「工具地图」而不是「工具清单」?二、选型四维模型(先看这个再用表)三、信息收集(Reconnaissance)— 15 个四、扫描与枚举(Scanning & Enumeration)— 14 个五、目录… 2026/7/9 2:54:15
CFCA精品可可设计师高级大考:将虚幻灵感转化为硬核数据模型,实现表达意图的绝对复现 在业余爱好者的圈子里,“表达意图”这四个字听起来充满文艺气息,但在残酷且真实的精品巧克力商业环境中,我必须强调它其实是极其硬核的生存指标。它的潜台词是:你到底有没有能力,将脑海中构想的精品可可风味微观结构&a… 2026/7/9 2:52:14
【ROS 2 机器人技术】动作通信(Action)详解及机器人移动控制实战(附完整项目代码) 前言 在机器人开发中,我们经常需要执行一些耗时较长的任务,比如让机器人导航到目标点、抓取物体、机械臂轨迹跟踪等。这些任务不仅要能发送目标,还需要实时反馈进度,并支持中途取消。ROS 2 中的 动作(Action࿰… 2026/7/9 2:50:13
事务与并发控制:当多人同时操作数据库 事务与并发控制:当多人同时操作数据库一句话总结:事务通过 ACID 特性保证操作的完整性;并发控制通过锁机制和多版本并发控制(MVCC)协调多个事务同时执行,防止丢失修改、读脏数据、不可重复读和幻读四大问题… 2026/7/9 2:48:12
机器视觉与PLC集成:轮毂缺陷检测与字符识别误差控制在0.2mm内 机器视觉与PLC集成:轮毂缺陷检测与字符识别误差控制在0.2mm内的技术实现轮毂作为汽车关键零部件,其表面质量直接影响行车安全与美观。传统人工检测效率低且易漏检,而采用机器视觉与PLC集成方案可实现微米级精度检测。本文将深入解析高精度视觉… 2026/7/9 0:01:04
GBase 8a vs MySQL 8.0:ALTER TABLE语法与限制的5点关键差异对比 GBase 8a与MySQL 8.0:ALTER TABLE语法差异深度解析与实战指南1. 两种数据库的ALTER TABLE能力全景对比在数据库架构设计和运维过程中,表结构变更(DDL操作)是不可避免的需求。GBase 8a作为国产分析型数据库代表,与开源M… 2026/7/9 0:03:06
【大数据毕业设计】基于多源旅游数据的景区热度分析与推荐系统的设计与实现 基于 Django 的旅游偏好挖掘与景区推荐系统(源码+文档+远程调试,全bao定制等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am… 2026/7/9 0:05:09
6个月转型AI工程师:实战路径与核心技能 1. 项目概述:6个月转型AI工程师的可行性路径在2023年大模型技术爆发的背景下,AI工程师岗位需求同比增长217%(LinkedIn数据)。不同于传统算法工程师需要3-5年培养周期,现代AI工程师更侧重工程化落地能力。我在硅谷科技公… 2026/7/7 11:26:57
TPAFE0808与PIC18F87K22的多通道信号采集方案 1. 项目背景与核心需求在工业自动化、医疗设备和科研仪器等领域,多通道信号采集与系统监测是基础且关键的技术需求。传统方案往往面临通道数量不足、信号调理复杂、系统集成度低等问题。TPAFE0808作为一款8通道模拟前端芯片,与PIC18F87K22微控制器的组合… 2026/7/8 20:15:17
STC3115与PIC18LF26K80构建高精度电池管理系统 1. STC3115与PIC18LF26K80在电池管理系统中的核心价值在现代电子设备中,电池管理系统(BMS)的重要性不亚于设备的核心处理器。STC3115作为一款高精度电池电量监测IC,与PIC18LF26K80微控制器的组合,构成了一个既能精确监控又能智能管理的完整解… 2026/7/8 14:25:08