百度在开源当天下午开了一个紧急技术会。
会议的核心议题是——文心要不要跟进开源。
讨论了两个小时,最终没有结论。
李彦宏在会议最后说了一句:“先看清楚深空的意图再说。”
阿里那边,达摩院的一位副院长在内部邮件里写了一段话:“dpx开源蒸馏版,表面上是让利,实际上是占坑。
他们用开源换生态,用生态换标准。
如果我们跟着开源,等于承认他们的路线是主流。
如果我们不开源,我们的模型又打不过他们。
这是个两难。”
腾讯的反应相对平静。
腾讯在AI上的布局一直偏应用层,大模型不是他们的主攻方向。
一位腾讯AI Lab的负责人在内部会上说了一句实在话:“这个东西对我们的冲击没有百度和阿里那么大。
我们本来就不是做底层模型的,dpx开源对我们来说反而多了一个可用的工具。”
字节跳动的反应最微妙。
张一鸣在开源当天给李东阳发了一条消息,只有两句话:“开源这步棋走得漂亮。
抖音那边的内容审核系统可以用蒸馏版做本地部署,成本能降一大截。”
李东阳回了三个字:“你安排。”
外网的反应比国内更激烈。
Github上,dpx开源仓库在当天冲上了trending榜第一位。
hacker News上相关讨论的帖子在几个小时内冲到了首页第一。
Reddit的r/machineLearning板块上,有人发了一个帖子,标题是《dpx just open-sourced their distilled models.
this changes everything》。
帖子内容不长:“我下载了d1版本,在一台单卡V100上跑了测试。
代码生成准确率在humanEval上大概在45%左右,比Gpt-3的48.
1%略低,但考虑到这是蒸馏版而不是完整版,这个差距几乎可以忽略。
关键是——这个模型可以在本地跑,不需要联网,不需要ApI。
对很多团队来说,这比什么都重要。”
这条帖子下面的评论区在半天之内突破了两千条。
有人感谢深空“做了正确的事”,有人分析“中国AI的开源策略”,也有人质疑“是不是在钓开源社区的鱼”。
微软的反应最快。
开源发布后不到六个小时,微软研究院的一位负责人在twitter上发了一条简短的推文:“dpx开源蒸馏版已经下载测试。
性能确实不错。
更值得注意的是他们的开源许可证选得很聪明——Apache 2.
0,商用友好。
这意味着很多企业可以直接拿去用。”
英伟达的反应更直接。
当天下午,英伟达的开发者关系团队在官方博客上发了一篇技术分析文章,详细拆解了dpx蒸馏版的模型结构和推理效率。
文章的核心结论是:“dpx蒸馏版在GpU上的推理效率比同等规模的transformer模型高出约百分之二十五。
这种优化如果在完整版上同样存在,那么NVIdIA的软件栈需要认真考虑如何适配这种新的计算模式。”
谷歌deepmind的一位研究员在twitter上发了一条:“dpx开源了蒸馏版。
本章未完,请翻下一页继续阅读.........