Cirno作者
10年5个月前修改于 10年5个月前IP:美国
823142
2楼

Loss function的收敛情况如下:
Loss.png
得到的权重W是一个 785x10 的矩阵,其中10表示有10个不同的类别。

单独拿出其中某一行矩阵,拿掉最后一列bias,是一个784维的向量\(w_c\),即是对应于该行数字的预测权重。

这个权重在机器视觉上有何种意义呢?

下面变一个小魔术,如果你还记得我们的MNIST数据中的单个训练数据\(x_i\),是将一张28x28的数字图片,转换成一个784维的向量得到的。于是我们这里反过来把784维的\(w_c\)转换成28x28的图片,得到了以下的10张图片:
template.png
分别对应0~9这10个数字,从中依稀可以辨别出来。所以,这里分类字符的原理,其实可以看作是模板匹配(template matching),训练过程是为了从训练集中综合出最合适的数字模板。

评论
文号 / 823142

千古风流
名片发私信
学术分 2
总主题 34 帖总回复 364 楼拥有证书:专家 进士 老干部 学者 机友 笔友
注册于 2012/09/03 13:32:16最后登录 2025/10/29 11:25:20
主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:0

个人简介

Machine Learning, computer vision enthusiast

Google

笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的