果然和他预判的一模一样。
问题根本没有彻底解决,只是被浅层网络的完美数据暂时掩盖了。
接下来的数日,漆昊每天准时到访实验室,全程跟进深度网络的堆叠迭代实验,实时观察数据变化。
得】奇】小】说】网】首】发】更】新!
初期迭代依旧向好,众人的信心不断攀升。
可当团队按照既定节奏,将网络层数稳步堆叠到五十六层时,恐怖的反转如期而至。
原本稳步攀升的测试集准确率,瞬间断崖式暴跌,从89.
2%直接跌落到68.
7%,比优化之前的老旧模型还要拉胯!
不仅过拟合问题死灰复燃,还新增了严重的特征退化,梯度消失问题,模型整体性能全面出问题。
实验室里所有人笑不出来了。
妈耶,他们这叫慢工出烂活吗?
明明很仔细了,为什么还会出现这么大的问题!
该不会是他们操作上有失误吧!
漆神这种大佬都来指点了,他们居然还出了问题?
这下好了,大佬带都带不动他们,看来朽木都未必有他们难雕。
漆昊在旁边也无语。
他的担心真的变成了现实。
他们训练的网络跟宋师兄的女儿一样,补课越多,成绩还越差!
林晨还记得自己当初信誓旦旦在漆昊面前劝说的模样,现在看来,简直是大型社死现场。
人家都说模型会有问题了,他还不信。
现在好了,问题真出来了。
“漆老师,目前有什么方法解决吗?”
漆昊说:“暂时没想到,不过实验可以继续,多跑一些数据出来。”
林晨点头,安排研究生们去做了。
可惜一连好几天都什么进展。
这天,漆昊看完实验数据后,依然没有找到灵感。
林晨看着漆昊一直坐着,犹豫再三,最后还是走过去说:“漆老师,放松一下吧。”
“科研这东西,有时候就跟便秘一样,越使劲越出不来,不如先起身走两步。”
“正好今晚深度学习圈子有个小范围私宴,都是国内做深度网络,正则化迭代的核心教授和骨干学者,没有外人,纯粹是业内交流。”
“大家都想趁年底碰一碰,聊聊最新的研究进展,他们也想邀请你,如果你愿意的话,我们一起去坐坐?”
漆昊:?
?
?
您能先别说便秘,再说吃饭的事情吗?
这俩放在一起,冲击力挺强的。
不过他想了想,连续几天泡在枯燥的数据和迭代日志里,他确实没找到什么头绪。
适当脱离实验室环境,没准儿能跳出固有思路,找到新的突破口。
而且这种顶尖学术圈子的私下聚会,往往能听到公开论文,学术会议上看不到的行业风声,对眼下的瓶颈突破未必是坏事。
于是漆昊同意去了。
本章未完,请翻下一页继续阅读.........