81中文

繁体 | 简体
81中文 > 再青春!你好,2010 > 第403章 子弹还在飞

第403章 子弹还在飞(1/3)

北京时间6月30日晚上11点半,美东时间上午11点半。

国内的热搜还在发酵,外网也开始动了。

最先动的是Reddit的r/machineLearning板块。

一个叫“throwaway_ai_2016”的用户发了一个帖子,标题是《dpx1.

5 from china: I ran the standard benchmarks and Im not sure what to think》。

帖子内容不长,但信息密度很高:

“我通过一个中国朋友搞到了邀请码。

在humanEval上跑了完整测试,dpx1.

5得分71.

8%。

在GSm8K数学推理上,得分64.

3%。

在mmLU上,得分58.

7%。

对比:Gpt-3在humanEval上是48.

1%,GSm8K是34.

2%,mmLU是43.

9%。

要么中国人做出了真正的突破,要么他们找到了某种取巧的评测方法。

但我在三个不同的benchmark上跑了三遍,结果一致。

如果这是取巧,那这个取巧本身就是一个突破。”

帖子发出来之后,前二十分钟的评论基本是同一个调子。

有人问“数据给我看看”,有人说“又是中国的pR项目吧”,有人直接甩了一个“lol”就走了。

前二十条回复里,十五条在质疑,三条在嘲讽,两条在要原始数据。

但到了美东时间下午一点,风向开始变。

一个Id叫“yann_lecun_fan”的用户发了一条长回复。

这人后来的身份被扒出来是某大厂AI Lab的研究员,在圈子里有点名气,平时不太发帖,但一开口就很有分量。

“我拿到了邀请码。

跑了五个维度:代码生成、数学推理、逻辑推理、中文理解、英文写作。

结论是——dpx1.

5在代码生成和数学推理上确实超过了Gpt-3。

不是一点点,是代际差距。

它的注意力机制明显经过了优化,长文本依赖处理得非常好。

我在一个两千token的上下文里测试了代码补全,它没有丢任何关键信息。

Gpt-3在这个长度上已经开始胡言乱语了。”

这条回复下面很快有人追问:“是不是用了什么新的架构?”

“不知道。

但从行为上看,它不像纯粹的transformer。

它的推理链更短,更直接。

可能是某种混合架构。”
本章未完,请翻下一页继续阅读.........
『加入书签,方便阅读』