半嘴舰长瞎琢磨记录
关于人工神经网络的瞎琢磨
文号D1863497
91
0
收藏
编辑文章

《感知机:计算几何导论》中的连通问题与异或问题的关系

中文摘要

通过证明单纯的感知机无法解决连通问题,并最终指出感知机更根本的缺陷,即单纯的感知机无法解决异或问题

Abstract

By demonstrating that a pure perceptron cannot solve the connectivity problem, and ultimately pointing to a more fundamental defect of the perceptron, namely that a pure perceptron cannot solve the XOR problem

关键词

人工智能感知机异或缺陷

Artificial intelligenceperceptronXORdefect

在人工智能领域的经典著作《感知机:计算几何导论》这本书中,马文·明斯基为了证明一个纯粹的感知机存在无法解决的问题,而举了一个让感知机判断是否连通的例子,如图1:

01.png

连通可以简单理解为从一个黑色像素点出发,不经过白色像素点,就能抵达任意一个黑色像素点。这里有四张图片,分别编号为X00,X01,X10,X11,显然X01,X10是连通的,而X00,X11由于上下两个图案之间没有任何黑色像素点连接,因此是非连通的。现有一个感知机,感知机有两个扫描头,一个扫描图片左半部分,一个扫描图片右半部分,示例如图2:

02.png

每个扫描头对两种模式识别,并输出相应的信号强度,如图3:

03.png

两个扫描头输出的信号强度进入感知机后,会进行相加操作,并根据一个激活函数判断是否连通,如图4:

04.png

这就引出一个关键问题,即是否能找到这个阈值θ。通过连通情况的总信号强度相加,以及非连通情况的总信号强度相加,可以发现矛盾,从而不存在阈值θ,证明过程如图5:

05.png

同样的信号强度,不可能既>2θ,又<2θ,这就是矛盾所在。而根据图4受到启示,可以将每张图的信号强度编码到一个二维平面上,从而提供一种几何直观上的证明。信号强度γ=α+β,因此每个γ对应一条直线,而两个扫描头的信号对应直线上的一个点。蓝色为连通的信号强度,绿色为非连通的信号强度,红色为阈值θ。可以发现无论如何也找不到一个信号强度θ,将四个点按照颜色一分为二,如图6:

06.png

这说明一个纯粹的感知机无法解决异或问题。

1
半嘴舰长瓦图姆 作者
2个月12天前 IP:江苏
D1868646

第六张图画的有些问题,应该将其逆时针旋转45度,这样一来,将信号强度与阈值相比,能够更直观

我打算过几天再写一篇文章,讲一下异或与奇偶校验

想参与大家的讨论?现在就 登录 或者 注册。

主体信息
主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:江苏
 文章分类
 内容统计
2026年08月
2 篇
ID: {{ user.uid }}
投诉或举报
加载中...
{{ tip }}
请选择违规类型:
{{ reason.type }}

空空如也

加载中...
回复
设为精选取消精选
评学术分
鼓励
编辑
查看历史
通过审核
移动文章
加入收藏取消收藏
退修或删除
违规记录
投诉或举报
加入黑名单移除黑名单
查看IP
{{ format('YYYY/MM/DD HH:mm:ss', toc) }}
回复
加入收藏取消收藏