4SOEDj3edqL tech.huanqiu.comarticle不联网也能用!苹果端侧AI迎来重大技术突破/e3pmh164r/e3pmtmdvg【环球网科技综合报道】7月15日,据CNBC报道,有消息称苹果正与硅谷AI初创企业PrismML洽谈合作,拟引入先进模型压缩技术,让旗舰级AI大模型直接在iPhone本地运行,进一步升级端侧AI能力、优化Siri体验。据了解,PrismML依托独创压缩算法,可将阿里通义千问270亿参数大模型从54GB精简至4GB以内,完美适配iPhone 15及新款机型终端算力。轻量化模型具备低能耗、高速度优势,内存占用大幅降低,响应速度与能效显著提升,可有效解决传统云端AI延迟高、依赖网络、隐私风险高的痛点。 当前苹果刚推送iOS 27测试版,全面革新Siri功能,发力追赶行业顶尖AI助手。此次洽谈的轻量化技术,可支撑复杂AI功能、计算摄影、健康数据分析等隐私敏感功能本地运行,兼顾智能体验与用户隐私安全,部分功能可脱离网络使用。业内介绍,该技术通过极致精简数据精度实现轻量化,虽小幅牺牲模型准确率,但核心推理、运算能力基本保留。依托苹果自研芯片软硬协同优势,终端有望承载更高规格AI任务,将多数日常AI交互留在本地,仅超高难度任务调用云端算力。(旺旺)1784098688052环球网版权作品,未经书面授权,严禁转载或镜像,违者将被追究法律责任。责编:秦耳环球网178409868805211[]//img.huanqiucdn.cn/dp/api/files/imageDir/865bc0310efcd91308cd55ab502e6fd4u1.png{"email":"wangnan@huanqiu.com","name":"王楠"}
【环球网科技综合报道】7月15日,据CNBC报道,有消息称苹果正与硅谷AI初创企业PrismML洽谈合作,拟引入先进模型压缩技术,让旗舰级AI大模型直接在iPhone本地运行,进一步升级端侧AI能力、优化Siri体验。据了解,PrismML依托独创压缩算法,可将阿里通义千问270亿参数大模型从54GB精简至4GB以内,完美适配iPhone 15及新款机型终端算力。轻量化模型具备低能耗、高速度优势,内存占用大幅降低,响应速度与能效显著提升,可有效解决传统云端AI延迟高、依赖网络、隐私风险高的痛点。 当前苹果刚推送iOS 27测试版,全面革新Siri功能,发力追赶行业顶尖AI助手。此次洽谈的轻量化技术,可支撑复杂AI功能、计算摄影、健康数据分析等隐私敏感功能本地运行,兼顾智能体验与用户隐私安全,部分功能可脱离网络使用。业内介绍,该技术通过极致精简数据精度实现轻量化,虽小幅牺牲模型准确率,但核心推理、运算能力基本保留。依托苹果自研芯片软硬协同优势,终端有望承载更高规格AI任务,将多数日常AI交互留在本地,仅超高难度任务调用云端算力。(旺旺)