3年9个月前修改于 3年9个月前IP:黑龙江
914984
6楼
引用qwe发表于4楼的内容
还有个问题是首先要对“坏”做出定义。例如设想这样一个社会,采用人工智能对统治者及其爪牙进行绩效考核,滚动优化,社会完全工业化。(暂不考虑人民普遍的生存状况)这里的统治者能享受工业化的物质生活,但是和原...

顶楼对“坏”的定义是匮乏,痛苦,恐惧,绝望,具体地说是:

匮乏指物质条件差。比如食品有毒有害的概率高,种类和数量少,营养和口味差等;居住条件差,房屋结构不安全,缺水缺电,不能保温遮风挡雨,面积小等;医疗条件差,意外死亡率,残疾率高,平均寿命低等。

痛苦包括物质上由以上的匮乏带来的需求不满足,以及疾病疼痛等;以及精神上缺乏亲情,友情,爱情等。

恐惧指不安全,不稳定,随时可能在上述匮乏的基础上变得山穷水尽,在上述痛苦的基础上痛不欲生。

绝望则是,想不到任何办法能让自己和身边的人从上述的匮乏,痛苦和恐惧中得到解脱。

总的来说,就是字面意义的坏,真的坏,纯纯的坏。不能是如 @虎哥 提到的“可能一件事情啥都不好,但做的人有精神上的满足”,也不能是如 @20!Dopaminor 提到的“sm爱好者”。就是要每个人都想逃离,但却谁都摆脱不了现状,要不然这制度设计起来就没有挑战性了 sticker

用人工智能搞“圣人独裁的反面”,可以在人类中实现上述的坏,算是满足了题设。问题是,人工智能本身还运行在比如“最小化cost”的模式下。或者说,这套制度实现题设中的坏的方式是“虽然人工智能获得了精神上的满足,但人工智能不算人”,感觉有点玩赖😂

评论
文号 / 914984

万流景仰
名片专栏发私信
学术分 5
总主题 98 帖总回复 1710 楼拥有证书:专家 高压局 进士 学者 机友 笔友
注册于 2014/04/30 20:05:43最后登录 2026/10/31 22:03:31
主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:0

个人简介

从事基于天然神经网络的天线拓扑优化

笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的