美初创公司将270亿参数模型压进iPhone
美国初创公司PrismML表示，已经成功压缩阿里巴巴开源大语言模型Qwen 3.6的270亿参数量版本，使其能够在 iPhone 17 Pro上运行。公司透露，他们为iPhone开发的“压缩模型”能够完成复杂对话、推理、完全自主的智能任务以及软件编程等功能。该开源模型将于下周二开始提供下载。据悉，PrismML已经将千问3.6大模型的体积从54GB压缩至不到4GB。通常情况下，模型体积缩小会导致性能下降，但该公司声称其用于压缩模型大小的技术并不会影响性能。这种“在本地设备上跑AI”的逻辑，正是苹果公司近年来的核心AI战略。知情人士透露，苹果公司已经与PrismML就如何运用其技术进行了沟通。
—— 财联社
相关文档
评论与补充0
有问题或想补充的，写在下面 · 选中正文文字再点「报告错误」会自动引用还没有评论。有疑问、补充，或者发现错字，都可以写在下面。
回复