2015年之后出生的人从第一次使用互联网寻求答案开始,就沉浸在AI环境中,他们不会觉得把AI成果直接伪装成真人的作品有什么不妥,可能最近几年还会有各种“前辈”给他们碎碎念,让他们知道收敛一点,再过几年恐怕他们的做法就是主流。
在这种背景下,真人交流反而稀缺和珍贵,这是我打算在KC上狠锤AI骗子的另一个原因。我们鼓励用好AI,但就解决科技问题这一方面,只能凌驾在AI之上,而不容忍真人作为画皮的AI占领KC。
毫无疑问,我是AI的重度用户,我对AI的发展是乐观的。
但是,AI对知识产生的污染却极为严重,近期论坛上就出现了许多小学生初中生借助AI,炮制的所谓学术文章,形成了整个社区与用AI的人做斗争的局面。
其中主要问题,是用AI炮制文章并且不加以声明,是否属于造假、抄袭、剽窃、欺诈。
事实上,这些小学生初中生不可能搞明白AI输出的全部内容,比如有人让AI做某个计祘并编制程序,这些计祘里面有偏微分,有矩阵,即便百万挑一的神童也是搞不懂的,而这些中小学生大言不惭的把如此得来的程序作为原创成果发表。
他们通过AI把碎片化知识组织起来,而作者自己对这些知识是否正确完全没有概念,还丝毫不要脸面的选择原创或严肃内容属性,让人首先倾向于认为作者做过认真的研究并给予信任,直到相关领域专家加以考证时才发现问题,形成“AI动动嘴,辟谣跑断腿”的局面。
当追究作者责任时,作者立即开启甩锅模式——都是别人的错,都是AI的错,自己也是受害者。
我想,正如管理员处罚公告所讲,终究会有一天,AI能实现你给它任务,它就能阐述解决过程的所有理论依据,并生成对应的软件工具,或者设计成果。固然可以把这些成果聚合起来,方便其它用户使用(而不用亲自去再问一次AI),但它们既没有创造性,也没有稀缺性,是不能作为学术成果发表的。
对于责任的界定,由于AI存在缺陷,所以不能说它一点责任没有,但任何工具都有缺陷和风险,都有适用的范围,因此责任是较少的。用AI的人有能力避免AI的缺陷造成的风险,并且采取避免措施的成本很低,因此有主要的责任。如果故意掩盖风险(比如冒充原创),那就有全部的责任。一个稍微可以类比的例子,是黑客软件和黑客的关系。
所谓避免措施,也很简单:像@三水合番 那样发表就行了。即,不是发表AI的成果,而是发表用AI的过程及其成果,站在AI用户的角度,阐述自己想解决什么问题,如何使用的AI,AI输出了什么,自己对AI做了哪些调教,对AI的成果做了哪些检验,AI是否解决了自己想解决的问题。只有仅利用AI辅助研究,并且对AI的成果做了严肃的检验,才能作为一种知识引用到文章中。
同时,必须准确选择人工智能产物声明,绝不能降格选择。
如果产生不良后果,建议按照相应的制度,根据情节以造假、抄袭、剽窃、欺诈等论处。
2015年之后出生的人从第一次使用互联网寻求答案开始,就沉浸在AI环境中,他们不会觉得把AI成果直接伪装成真人的作品有什么不妥,可能最近几年还会有各种“前辈”给他们碎碎念,让他们知道收敛一点,再过几年恐怕他们的做法就是主流。
在这种背景下,真人交流反而稀缺和珍贵,这是我打算在KC上狠锤AI骗子的另一个原因。我们鼓励用好AI,但就解决科技问题这一方面,只能凌驾在AI之上,而不容忍真人作为画皮的AI占领KC。
貌似本坛第一位因滥用AI导致账号封禁的幸运儿出现了,强烈建议将限制AI类内容补充进基本规则—网友行为和网站管理规则 - 科创网增量规则——将封禁ID的情况 - 科创网
这些制度已经发布很久很久了,只是过去形势不严峻,执行不严。
道理很简单,用AI没问题,但不准甩锅AI,谁发言谁负责。AI出了错,由作者负责。AI瞎编,等于作者故意造假。
关于被封号者,我翻看了日志,这人纯属毫无底线,可能属于“无耻型人格”——在多次警告以及本文发表后,不但不收手、不悔改,反而加强伪装、变本加厉,完全是挑衅。对这种情形切莫有圣母情节,不能别人在头上拉屎,还谈什么讲文明,直接掐死(封号)是最佳办法。
2015年之后出生的人从第一次使用互联网寻求答案开始,就沉浸在AI环境中,他们不会觉得把AI成果直接伪装成真人的作品有什么不妥,可能最近几年还会有各种“前辈”给他们碎碎念,让他们知道收敛一点,再过几年恐怕他们的做法就是主流。
在这种背景下,真人交流反而稀缺和珍贵,这是我打算在KC上狠锤AI骗子的另一个原因。我们鼓励用好AI,但就解决科技问题这一方面,只能凌驾在AI之上,而不容忍真人作为画皮的AI占领KC。
貌似本坛第一位因滥用AI导致账号封禁的幸运儿出现了,强烈建议将限制AI类内容补充进基本规则—网友行为和网站管理规则 - 科创网增量规则——将封禁ID的情况 - 科创网
这些制度已经发布很久很久了,只是过去形势不严峻,执行不严。
道理很简单,用AI没问题,但不准甩锅AI,谁发言谁负责。AI出了错,由作者负责。AI瞎编,等于作者故意造假。
关于被封号者,我翻看了日志,这人纯属毫无底线,可能属于“无耻型人格”——在多次警告以及本文发表后,不但不收手、不悔改,反而加强伪装、变本加厉,完全是挑衅。对这种情形切莫有圣母情节,不能别人在头上拉屎,还谈什么讲文明,直接掐死(封号)是最佳办法。
楼上,我曾说你几乎每篇帖子都逻辑混乱,看似很有道理实则毫无益处,这篇也不例外。
您如果愿意就你的专业发一些言论,即便是讲讲业界段子,我想都是很受欢迎的,然而最近几年你越来越少做这方面工作,相反,越来越多的开展所谓“搅混水”业务。
并且,特别爱“说教”,结合楼上这篇回复,有个形容词叫“缺啥补啥”,似乎很适合于你。
你的回复中,唯一值得提炼的观点,是(某些)人之于AI,最重要的价值是现实中“做实验”。
然而这不是你一个人这样说,可以说这是AI界乃至学术界的共识。我在不止一本书和不下5篇文章中看到过这个观点。这也很好理解,AI现在的确解决不了实验验证问题,也解决不了现实世界的反馈问题。
但这是有特定条件的,例如在药物研发中为分子设计及合成路线提示方向,然后由人在现实中合成,如果能够得到产物,再考虑进行后续的实验。但这里需要大量采用专用或针对性微调的模型,工作的流程并不(主要)是自然语言处理,所进行的实验也不一定是现实中的实验,毕竟AI的产量与人的工作量并不匹配。甚至,传统意义的实验在此处也不是“药物爱好者”的主要价值,怎么让AI吐出值得去实验的东西才是重点。
针对你回复的其余部分,简要批判如下:
1、
我不觉得有类似KC的论坛。
我从来没有涉及网站上的AI污染是否影响学术界的话题。但你直接断言不会影响到学术界,这就值得说道了。第一个问题就是爱好者论坛是不是学术界的一部分?你认为什么才叫学术界?第二个问题是即便KC论坛与你认为的学术界毫无交集,如何堵住所有可能影响学术界的渠道,或者重新定义“影响”?第三个问题是事件尚未发生,比如AI还没有普遍污染学术论坛,因此无法研究,何以断言?此外,为什么要在这里谈(锚定)学术界?这是什么逻辑,我只想解决KC自己的问题罢了。
我的文章举了一个用AI的人的极端的例子,而建议的措施是谁发表谁负责,不因使用AI而免责。这与识别AI污染有任何关系吗?
2、
我建议要解决的是现实问题、细节问题、基层问题,有人用粪车灌的问题,不是宏大叙事。至于你说的这些,与我的文章毫无关系,你喜欢宏大叙事那是你的事情,但应当避免影射或导致他人误解为我要解决宏大问题。
何况,即便是是宏观问题,现在AI产物的围城已经到了狂风暴雨的程度,是新动向,与前AI时代的少量瞎编乱造根本不是一个量级。
3、
这纯粹是污蔑。
如果你要说这些话,建议定义清楚什么叫装逼,然后做一个哪怕造假的田野调查。
现实是,我还得不遗余力的推广装逼,时刻不忘告诉大家装逼不可耻,装逼也是积极的方向。我打算“百尺竿头”,让装逼从娃娃抓起,形成本能。我觉得如果将来高龄人做科研也是为了装逼,那简直是完美世界。
我很清楚我的推广尚未成功。
至于你说低龄爱好者“就会”使用AI调整数据,是指所有人都要造假吗?可能你得重新定义一下调整,或者造假。
同1类似,用想象的“事实”来总结拔高,这是心理问题,建议发到心理调节室。
4、
或许“真正做出有价值研究的人依然不会失去热情”,但何以如此笃定AI的出现就能让特定的垃圾信息制造者失去欲望?难道他们不知道鸟枪换炮也用AI吗?他们就完全没有可能因此更多的转化为“真正做出有价值研究的人”吗?
我就问你,人间什么事情能够离开“分泌多巴胺”?按这个标准,送外卖也跟打游戏没真正的区别,拉屎也跟打游戏没有真正区别——打人生游戏是吧。
打游戏在你的语境中似乎是负面意思。我其实觉得游戏人生,游戏科研,挺好的。
5、
前面已经讲过了。
随便挑一个语无伦次为例吧,你举了个AI求微积分数值解的例子来解释为什么工科手比脑子值钱。问题是,微积分是啥,不用脑子怎么知道要解啥?
而且你的发言不能看合订本,我记得过去你的说教与此处截然相反。
****
AI当然可能改变科技的范式,各领域都可能或者已经迎来巨变。前一次可以参考的“技术革命”是计算仿真的普及,从那时起,老专家式的设计计算,普遍而言就让位给了简化理论指导下的仿真优化。它最直观的效果是降低了设计的门槛,数量级的提升设计的效率,从而让登峰造极的作品极大丰富。
而我只是建议或者计划消除KC上的画皮AI,或者用你的话说,装逼党?
这么看来,你似乎打算支持我的建议。
但你在浪费我的时间。
我当然没有必要纠正你的逻辑错误,之所以劳神费力指出错误,主要原因是你的回复发在公共空间,而这里是科学学分区,因此需要考虑你的“人工污染”带来的后果。简言之,你的现身说法,给了我公开传播“私货”的由头,所以仍然要感谢你。
根据你的新回复,补充几点:
1、没人怀疑你的动机。你是颇有情怀的人,许多长篇发言表现出善良一面。只是你发的东西问题很大,主要表现在两方面:
(1)过度想象,并习惯于以想象(好听的说法是“预判”)为依据,而不是以事实为基础。
(2)没有逻辑。
这不但导致与你讨论越来越偏离主题,还可能把议题搅乱,把水搅浑,最终不欢而散搁置起来。在公共事务中如果发生这种事,就会对事务议程产生灾难性的破坏作用。
2、一个事物或者主张从容易实现到不能实现,有宽广的中间地带。即便“难以实现”,也不等于有错误、不能去碰。事实上,KC的讨论总的来说很讲道理,而你恰恰是“大神”里面,这方面最差的一批。
你的回复,我翻译成形象的例子。班级倒数第一说:人人上大学,出发点是好的,但不现实,全人类都难以实现。
3、我发表的是管控AI欺诈/画皮AI的建议,从未涉及AI的利弊问题。任何技术革命和社会革命都有利弊,比如近年来学术界逐渐形成共识:人类从狩猎采集过渡到农耕,生活水平其实大大降低了,至少初期是这样。但这就是历史的进程,城市、文明,是建立在这一进程的基础之上的。
*****
我很清楚不可能说服谁。甚至,我经验性的认为逻辑能力的潜力是遗传+幼儿时期的熏陶主导的,有的人稍加训练就能习得,有的人真是一点办法都没有。逻辑能力差的人,很可能是大脑的某些部分不活跃,或者某些部分过于活跃(产生抑制或干扰)导致的。逻辑能力强也并不一定总是好事,它可能抑制社交能力或者产生别的问题。
而国内人文教育存在的问题,是从小学开始就系统性的消灭逻辑。随着年龄增长,许多方面的学习能力是在下降的,成年以后再训练,就会相当艰辛。
世界正是因为形形色色的人才如此精彩,但KC只是社会中微不足道的一小部分,在这一小部分,对某方面能力提出基本要求是完全正当并且可行的。通俗的讲,尽管不能指望世界上每个人都相信科学,但科学院还是需要讲科学的。
个人观点:Ai的用处是解决日常生活问题,把它用在比较专业的地方,效果反而会让人大跌眼界。AI所谓的深度思考,只不过是搜索网络上的信息加以处理而已,并且网络上的信息不一定是正确的,AI并没有较为成熟的判...
这可能是一个常见的误判了。实际上AI处理专业问题的进步速度远快于生活问题,特别是日常生活中的开放性问题。不过,如果你说的是生活中的简单科技常识问题,那么现在的AI已经比较成熟了。
AI遇到了很大的瓶颈,就是缺少有效的反馈,面对开放性问题,无法构建适当的奖励机制来实施强化学习。
但对于技术问题,计算问题,这些往往有比较明确的正确答案,至少容易检验并发现颠覆性错误。当前只是还没有深入到行业应用,有些细节没有做好罢了,但终究可以做好。
回楼上,你提到“你对AI比我更抗拒”,这是毫无事实依据的。
关于后面的论述,其价值层面可以提炼为:“因为人是有情感的,感情是很重要的,所以我们(在某些方面)应该不要逻辑”,或许能够进一步推论,“(在某些方面)讲逻辑是错误的、过时的”。
这当然是你的逻辑缺陷的再次发作,只是这次加了一些定语,有些进步。
我从来没说不应该讲感情,但你却用了大量篇幅来论证(在社科、企业管理等领域)不应该讲逻辑。
以上我说得绝对了一点,但只是为了突出问题,并不是要误解你。
关于AI的事实问题,我讲的跟你讲的大体是相同的,例如19楼。我们能讨论这个话题,想必首先是因为对各种AI的原理有起码的了解。但有一点还是需要指出,现在的AI并不是不使用逻辑,如果深入了解的话,可以认为整个AI从最底层开始就是基于逻辑的,只是这种逻辑是连续的、概率的、隐式的。当然你可以认为AI不基于形式逻辑,但是它的效果(推理及最终输出)是非常有逻辑的,常能经得起严格的逻辑检验,在归纳和演绎方面也极为出色。你甚至都没法让AI按照你的种种逻辑缺陷来作出行为。
正如我在19楼指出的那样,AI处理科技问题的进步更快,而处理你所说的社科、企业管理问题,恐怕还要数年甚至十多年的路要走。如果你对AI的评价成立,那么情况应该正好相反才对,但事实不是这样,可以看出你的发言存在不可调和的内在矛盾。
你对企业管理也有深刻的误解。如今,“一将无能累死三军”,指的就是没逻辑没章法的管理者,管理者匪夷所思的神操作,往往成为企业员工之间的段子。企业各层级管理者讲感情,并不等于他们只讲感情,相反,他们做事首先必须讲逻辑、讲价值判断。我想,你说的感情可能是指一种默契的合作状态,领导觉得下属顺手,下属觉得领导通情达理,同事觉得水到渠成合作愉快,不需要一板一眼的较真每个细节——但这恰恰是同事们都讲逻辑的结果。但凡有一个人不着调,就会天天上演本质上围绕逻辑展开的“讨论”——而你体会到的只不过是一种存活者偏差。AI无法复制这种默契,是因为它真的只会一板一眼,它无法感知哪些事情不需要强调就顺理成章,也无法知道谁靠谱谁不靠谱。至于怎么把客户拍舒服,怎么跟隔壁部门称兄道弟以便多倾斜一点资源过来,这些在大多数情况下只起修饰作用,共同利益恐怕才是主要的影响因素。
你对社会的复杂性有正确的感性认识,但是基于错误的思维方式,作出了错误的解释。对于社会问题,其实“脚踩西瓜皮,滑到哪算哪”是优于任何宏大理论的,这是应对复杂性的一种策略,即只有复杂性才能对抗复杂性,而宏大理论(机械论)往往带来深刻灾难。但这并不意味着社会没有它的底层规律——比如绝对的权力必然伴随绝对的腐败。