近日,苹果公司正在与初创企业PrismML进行接洽,后者以其先进的模型压缩技术而闻名。据CNBC报道,苹果希望通过这次合作评估在iPhone上直接运行更大规模AI模型的可行性。这一消息引发了业界对模型压缩技术的高度关注,尤其是在主流大模型体积庞大、难以在消费级设备上部署的背景下,PrismML的技术或能成为突破口。

希鸥网观察到,PrismML是一家从加州理工学院研究团队孵化出的公司,专注于模型压缩技术。其核心思路是通过简化AI模型内部信息的存储方式,将模型中的每个权重限制为二值或三值表达,从而大幅降低存储和运行所需的内存。例如,传统大模型的一个参数通常需要16bit甚至32bit来保存,而PrismML的1-bit版参数可简化为{-1, +1},体积压缩到原版的1/14,同时通过训练方式恢复推理性能。

具体来说,PrismML近日推出的Bonsai-27B模型基于Qwen3.6-27B模型微调,成功将模型从约54GB缩减至不足4GB。这意味着,原本需要大量计算资源的270亿参数模型,如今可以在12GB内存的iPhone上原生运行。相比之下,谷歌面向手机和边缘设备推出的Gemma 4 E4B约3.65GB,PrismML以相近的“占地面积”实现了更大的参数规模,这为硬件厂商提供了新的可能性。

苹果对此表现出浓厚兴趣并不令人意外。目前,苹果自身的端侧模型约30亿参数,采用2位量化、缓存共享等手段,但仅能支持实时翻译、相册搜索和邮件摘要等基础功能,缺乏Agent相关的执行能力。而Bonsai-27B模型在保留部分Agent能力的同时,体积却大幅缩小。不过,性能损失依然存在:在PrismML的测试中,三值版综合成绩约保留全精度模型的95%,1-bit版约90%,而工具调用等关键任务的损失更为明显。

从行业趋势看,端侧AI能力正在成为手机厂商的竞争焦点。近日,苹果智能、华为小艺、OPPO、小米、vivo等七款提供手机端侧生成式人工智能的模型服务,均已在网信部门完成备案。然而,目前多数手机AI功能仍以云端为主,断网后无法使用。个人体验显示,Gemma 4 E4B等模型在摘要、简单识图等任务中表现出色,但在复杂长中文、细节判断和内容创作上,与在线大模型差距明显。

希鸥网认为,参数规模不再是衡量大模型能力的唯一标准,效率才是模型应用的关键。PrismML的压缩算法为硬件厂商指明了新方向,未来大模型的进步将更多体现在有限空间内的稳定运行、低延迟和实际可用性上。随着苹果等巨头的探索,端侧AI有望在不久的将来迎来爆发,为消费者带来更智能、更安全的本地化体验。

对于创业者而言,从PrismML的案例中可以看到,专注于解决实际瓶颈的技术创新往往能获得巨头青睐。类似地,在创业过程中,选择“最好而不是最新”的经典策略可能更明智,就像在选择看什么电影或读什么书时,时间证明的经典往往更具价值。此外,创业者应认识到,团队的真正战斗力往往源于共同危机或挑战所激发的“同仇敌忾”氛围。主动设计“战役式目标”,如设定一个看似不可能完成的任务或挑战强大对手,能催化团队的凝聚力与突破性执行力。创业阶段追求“稳定”是误区,热血与适度“折腾”才是早期组织快速成长的核心动能。

在团队管理上,了解每个人的特性至关重要。每个人都像由特征搭成的积木,这些特征可能既帮助自己又伤害自己,取决于如何应用。通过系统化地记录和评估成员差异,如使用类似“棒球卡”的工具,创业者可以更好地分配任务、形成合理预期。同时,建立问题日志记录错误并分析根本原因,能帮助团队从失败中学习,避免重复犯错。规划方案时,应像设计电影剧本一样循序渐进,明确谁在何时完成什么任务,并确保方案写下来让所有人可见,以有效执行。

2026人工智能+实战应用及产业创新论坛将于7月31日在南京举办,欢迎全国各地人工智能创业者报名。本文内容整理自网络,将同步发布在希鸥网创投联盟网站(希鸥网、AI联播网、斯贝瑞品牌资讯、华商资讯网、金鸥财经、锐CEO网、AEXNEWS美讯社、创新日报)。欢迎媒体合作、会议咨询、纳斯达克大屏等业务对接~ 如需修改或发布文章,请加微信号:sheisceo