微软CEO纳德拉对人工智能实验室的模型训练方式进行了不动声色的批评。纳德拉在上周日的一条 X 帖文中表示,模型开发商抱怨蒸馏技术是虚伪的。模型蒸馏是指利用性能更强模型的输出结果,来训练能力较弱模型的过程。“虽然模型提供商拥有合理使用公开数据来训练模型的权利,从而带来伟大的创新,但我觉得具有讽刺意味的是,现状却是他们一方面主张这种权利,另一方面又对模型蒸馏施加严格限制,并保留从客户使用和交互数据中学习的权利。”纳德拉表示。他还补充说,如果知识学习只能单向流动,那么掌握学习基础设施的一方将赚走所有利润,而知识的创造者却无法分享相应的收益。
—— 凤凰网科技