对于坚持“端侧AI”路线的苹果而言，一家初创公司的最新成就，或许即将解锁iPhone“AI智能”的天花板。
最新报道显示，美国初创公司PrismML表示，已经成功压缩阿里巴巴开源大语言模型Qwen 3.6的270亿参数量版本，使其能够在 iPhone 17 Pro上运行。公司透露，他们为iPhone开发的“压缩模型”能够完成复杂对话、推理、完全自主的智能任务以及软件编程等功能。该开源模型将于下周二开始提供下载。
元股证券:ygzq.hk
参数量通常用来衡量模型处理问题的能力。一般而言，目前大多数手机和笔记本电脑只能运行数十亿参数量的模型。除了处理器算力不足外，移动设备的显存容量也是难以逾越的障碍。
PrismML是加州理工学院分拆出来的初创公司，该校电气工程教授哈西比与创业团队完成了实现“大模型压缩”所需的数学研究。加州理工学院拥有相关技术的专利，并独家授权给哈西比创办的PrismML。
据悉，PrismML已经将千问3.6大模型的体积从54GB压缩至不到4GB。通常情况下，模型体积缩小会导致性能下降，但该公司声称其用于压缩模型大小的技术并不会影响性能。
这种“在本地设备上跑AI”的逻辑，正是苹果公司近年来的核心AI战略。消费电子巨头在耗资巨大的数据中心建设竞争中基本处于冷眼旁观的状态，同时一直倡导让尽可能多的AI功能在设备本地运行。
问题在于，苹果自己的开发成果一直拿不上台面。在今年6月的开发者大会上，苹果公布了基于谷歌Gemini模型的Siri升级。但其中最复杂的功能依然体积庞大，苹果仍需要依赖运行在谷歌云上的英伟达芯片提供算力支持。此前也有报道称，苹果曾尝试过把模型压缩到能装进iPhone的程度，但发现模型能力出现严重下滑。
横向对比，苹果新推出的某款本地AI模型虽然声称拥有200亿个参数，但采用的是稀疏架构，即一次仅有10亿至40亿个参数处于活跃状态。而PrismML声称其开发的本地模型能让全部270亿个参数同时处于活跃状态。
据报道，熟悉相关谈判情况的人士透露，苹果公司已经与PrismML就如何运用其技术进行了沟通。
PrismML的首席执行官哈西比对媒体表示，他预测未来绝大多数人工智能处理流程，最终将由本地设备来完成。而把模型缩小到可在本地设备上运行的规模，从根本上改变了人工智能的商业模式。
他说：“试想，也许三年后，你所需要的95%的智能服务都能在本地获取——无论是手机、笔记本电脑还是各类家用设备上，而只有那最后5%的高端功能才需要依赖云端。”
哈西比也表示大盘分析，PrismML计划继续压缩更大规模的AI模型，甚至是万亿参数级别的模型。这将使其进入OpenAI的GPT、Anthropic的Claude等前沿模型所在的领域。
免费配资开户提示：本文来自互联网，不代表本网站观点。
