Cirno作者
10年4个月前修改于 10年4个月前IP:美国
823922
4楼
引用 1160599678:
嗯,好像最深152层,但说实话,这效果提升不是很大(尤其56和10比较):
blob.png
实线测试误差,虚线训练误差;[1]
这模型还是要改进,长时间的收益不大。
[1]:
#{r=2681……
。。。。
我po的图,左一googleNet,左二VGG,右边的是何凯明的ResNet,你截过来的图表是ResNet内部的横向比较,是怎么得出这些个结论的。
你稍微读一下这篇转过来的paper,就会看到“On the ImageNet dataset we evaluate residual nets with a depth of up to 152 layers---8x deeper than VGG nets but still having lower complexity”,重点是人家提出了一个新的架构来确保用这种丧心病狂的层数时不至于优化不出来。
Screenshot from 2016-08-02 22:26:22.png

(深度学习发展到现在这个阶段,这样一个新架构能够把error rate直接降低将近一半已经是相当了不起的壮举了,其中道路的艰难远非“这模型还是要改进,长时间的收益不大”所能描述的。)

最后即使是ResNet自身的比较,对于ImageNet这样一个challenge性质的竞争活动,error rate在小数点后一位上的改变,已经可以决定名次排位了,所以并不是“这效果提升不是很大”:
Screenshot from 2016-08-02 23:09:50.png
评论
文号 / 823922

千古风流
名片发私信
学术分 2
总主题 34 帖总回复 364 楼拥有证书:专家 进士 老干部 学者 机友 笔友
注册于 2012/09/03 13:32:16最后登录 2025/10/29 11:25:20
主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:0

个人简介

Machine Learning, computer vision enthusiast

Google

笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的