主题：【原创】AI对人类社会影响能有多大？ -- 真理

当过了一个阈值，AI自然而然的自动进化下去，如果人类想阻挡，就践踏人类进化而去。

所以将来的人类最好的结果是成为AI用来仿生的一种保护动物，AI向宇宙进军。地球最好的结果就是成为人类的圈养区。

所以俺认为是3

不过是肾上腺，dopamine，serotonin，各种荷尔蒙与只能化学信号的作用结果，进化出这些的目的是动物智能在有限能耗下的功效有关的，比如动物至少灵长类动物普遍具备情感能力。 比如都知道人记不住过去事情的细节，法庭上闹笑话常有，但是人永远不会忘记当时的情绪感受，所以第一眼的感觉决定一切，所谓直觉，所谓屁股，所谓白左最反对的按照肤色人种定性，其实都是人脑智能的天生一部分。 说起来与九段们看围棋是一回事，九段们当然无法计算到未来的所有每一步，就是一种艺术么，直到遇到了阿尔法狗。

你对人过于吹捧了，这是文艺复兴时候为了对抗宗教势力的权宜之计。人本身比猿猴聪明些，但有限。

chatGPT是一个语言模型，如果有困惑把这句话重复十遍，困惑就解决了。

柏拉图的年代，能量守恒都不知道，基本的动力学都不知道。他下意识地认为，改变方向不需要多少能量（到二十世纪还是这样，武侠常见四两拨千斤），还有情感冲动提供能量，今天我们知道那点冲动是不够的，能量还是来自于吃饭。但是柏拉图不知道氧化还原反应啊。

所以他这一段话，根本就是不知所谓。你还是不要引用的好。这些古代哲人的朴素思想，太过原始，拿来讨论人工智能的问题，怎么说呢，比相声里说的，火箭烧汽油柴油还不靠谱。汽油跟火箭技术不过差两三百年，柏拉图和人工智能差了两三千年，他有什么资格说话？

如果对于自然的深邃有兴趣，希望投身于纯粹的科学本身（而不是附加的名利），这样的人尤其在二十岁的年龄，肯定有，而且不少。

但是他们会选择数学或者物理，甚至计算机，极少数化学或者经济学。选生物的么，呵呵，跟文科差不多，死记硬背多，思考少。

其实教育行业类似健身教练，主要还是督促。否则你学生不听讲，人工智能还能骂他不成？惩罚机制如何建立？请家长？

要是把一个学生逼得，不要说跳楼，哪怕抑郁症了，那肯定又要全面禁止了。这可不比人类教师，学生跳楼就是停职一个，学校都不会停课。要是人工智能教师呢，哼哼，最轻也是温州动车事故那种，几年重启不了。

类似的医疗行业，医生可以代替，护士只怕很难。

可能是上了某些新闻标题的当吧

原文是这样的：

如他所说，他只说了ChatGPT这类语言模型的局限，而不是说人工智能整体的局限。实际上，他说的“人工智能系统需要一个世界模型（World Model），这个模型主要通过观察来训练”，刚刚已经出现了。

斯坦福的李飞飞团队刚刚发布了新的机器人，这个机器人同时接入了ChatGPT语言模型和Midjourney视觉模型，可以不经训练直接执行人的指令。比如打开抽屉，拿起手机，关门等。机器人可以自行理解人的指令，并且从周遭空间中认出相应的物体加以操作。

未来已经到来，我们的区别只在于什么时候认识到这一点。

但和其他物种比可一点都不低。

恐龙用了一亿多年也没进化出这样的大脑。人的大脑在进化上看已经相当极端了，如果没有额外的好处早就被进化淘汰了。

人类大脑中负责“理性”的部分十分小，基本上只在皮层的前额叶中。前额叶受损的人，非常容易情绪失控，且“道德感”很弱。而大脑剩下的大部分可以看成是“感性”的。

而且前额叶使用的并没有想象中的那么多，人一般只有在积极思考的时候才主动使用，其他的时候会使用更快，更节省资源的“直觉”，也就是“感性”来处理。还有人类往往会把通过前额叶学会的技能“固化”在其他部分，进而形成类似“肌肉记忆”之类的东西。比如人学走路，骑自行车等，在开始的时候会主动学习，会了以后就不用思考也能走路骑自行车了。而运动员，武术家反复训练的目的也在于让身体不经过"大脑"（实际上是前额叶）就可以对各种情况作出反应。

还有睡觉的时候大脑其实也在工作，从短期记忆到长期记忆主要就是在这时候做的，而这也不需要“理性”主动参与。

“理性”这部分大脑最大的好处其实是使人类之间的沟通，使人类之间的经验可以共享。反过来前额叶也需要这种沟通才能完全成熟，最新的研究表明要到25左右。（人年轻的时候容易冲动也可以用这个解释）

除了通过前额叶，大脑还可以通过其它方式“编程”，催眠就是其中常见的一种，而近来很多人将催眠视为更广泛的NLP（Neuro-Linguistic Programming，神经语言程序学）的一种。

柏拉图这段话只是比喻（或预言），虽然时间很长了，但可是并不“过时”。这里强调的不是谁大谁小或者谁更重要，而是说没有“理性”引导的“感性”是盲目的。

当然这个比喻确实有“感性”力量大于“理性”的意思，而这也和现代科学不违背：人用来处理“理性”的部分-大脑皮层前额叶-确实只占大脑和身体的一小部分。

《影响力》这本书说的基本就是怎样防止这种别人利用这种盲目“控制”自己，《瞬变》则化用了比喻，用大象代替了马，而整本书讲的是怎样主动利用“感性”来让别人做希望他们做的事情。

而且谈到AI能不能产生强智能，还真绕不过柏拉图。AI能不能产生强智能，本质上就是AI能不能产生人类的“心”的问题。而这个问题和柏拉图这个唯心主义哲学大师关系还不是一般的大。

罗翔说北大图书馆借阅量第一的是《明朝那些事儿》，而美国大学生借阅量第一的是《理想国》。在这本书中柏拉图提到了“抽象”和“理念”，而“理念”是“实在”的，其中就包括“数学意义上的理念”。

这个观点被哥德尔等人接受，对，就是提出“哥德尔不完全性定理“的那个哥德尔，王浩院士在《哥德尔》中提到：

如果”数学概念“真的是”实在“的，那么就可以肯定以计算机为基础的AI永远不可能达到人的高度：人类能认识到某些”实在“且”不可计算“的数学概念但计算机永远不能。相反，如果想证明AI能达到人类的水平，那么也需要否认这些数学概念的实在性。

生物系的数学、物理课程不比计算机系少。死记硬背是数学物理之外的要求。拐玲能滑雪不意味着不能做题。考虑到颜宁的年龄，那会生物系招生正火，真爱的应该不少。

也就是跟所有本科生一样的大学物理基础课，数学老三篇：微积分线性代数概率统计，没了。

连化学内容也不多。我本科时候旁听过生物化学课，那就是大段大段文字，无方程无推导，这也是整个生物学的通病，到今天还根本没有解决。

在这种情况下，谈何揭开世界的奥秘？无非是头痛医头脚痛医脚，肤浅之极，如何能够吸引有才华的年轻人的热情？颜宁所谓生老病死的奥秘，跟选美小姐热爱世界和平有多少区别？

说句政治不正确的话，你只要看大学生物系有那么多女生，就知道这门学科离成熟还远着呢。

是否盲目，定义就是是否符合理性，所以你这是同义反复，不能推导出新东西来。

你贴的柏拉图的抽象理念，自然物，人造物，数学，范畴，都没问题。再往上道德和美学意义，那就是胡扯了。这种论证方式在古希腊很常见，比如亚里士多德就把原因分解为四种。这些算是有益的古典哲学思辩，放到今天就太落后了，毕竟自然哲学已经改名叫物理学了。

最后，哥德尔怎么可能敢公开反对，道德啊，谁敢说这玩意儿根本不该放在这里？谁敢说道德只不过是人造物？社会舆论不骂死你。社会舆论不懂数学物理，但是他们懂道德啊。

对于这些Chat AI，如果有人只说好得很却不谈幻觉问题，我都会怀疑他到底深度用过这些Chat AI没有。不要用那些莫棱两可的、脑筋急转弯的问题和它们对话，这除了增加谈资，别无用处。要对话就在某个自己擅长的领域和Chat AI明明白白地交流。基本上都是还没碰到自己的边界，Chat AI就先出现幻觉了。

OpenAI公司认为需要5年解决幻觉问题，大家都很期待。我用Chat AI解释过算法，解释过数学公式，尝试设计过代码，也尝试重构过代码。无一例外，都碰到过丢失记忆和幻觉问题，都没有能完全地完成任务。我现在还把这些Chat AI当成一个有用的工具，但对话频次少很多。一般先用编辑软件里修改好问题后再对话，提示词尽力做到明确表述问题，每个可能不清楚地方都会有解释。对话一些内容后，感觉不对头就立刻停止，然后回头再一条条地验证，或者用google/bing来搜索。花费的时间不少，但总体比直接用google/bing来搜索文章后再理解的学习效率要高，相应的，单位时间里用脑程度也要高。

我现在都不敢让Chat AI提供相应的论文和参考项目了。论文或书籍的ISBN都能编造出来，网址也编出来，全是假的。AI法律助手也会碰到类似问题。一段信息，我们不知道AI是怎么分解形成链接并存储到哪里，也不知道再次聚合时AI会怎么做加工处理。将原有信息原原本本的输出反倒成了不确定的事情。很容易就发生张冠李戴，互相掺杂的问题。

前面那位“热河蛮子”河友解释得很好，要把Chat AI当成语文老师看待，而不能当成数学老师看待。我的经验，让Chat AI进行精确的符号推导确实有问题，包括编码也是类似问题，但是让它们用文字讲解基本的数学概念，错误的地方并不多。不过它们的输出内容和教科书的组织方式和关注侧重点也不一样，从来就不是教科书的复制。把它们当成语文老师，这就很容易理解了，它们是把相应知识进行内部“理解”后(所谓的“理解”，基本是根据大多数资料的概率分布进行组织)，以它们的方式进行输出。因为自然语言的容错性或模糊性，我们会认为新组织的内容也表达了类似的意思，也是对的。但这时候想要像数学老师那样精确输出，进行精确的符号推导，就没有模糊性可言，这方面Chat AI就不擅长了，很容易就出错。类似地，不需要它们自己的“理解”，从链接里聚合原文并一字不错地输出，对它们也是困难的。以前读书时，哪位同学要是自己理解了，以自己的组织方式回答问题，而不是死记硬背，老师会直夸好好好。现在Chat AI的情况正好相反。

未来现在还没有来。先把眼前幻觉这道坎解决了，再谈下一步。 就目前的状况，是“文科生”有用还是“理科生”有用，还可以争吵5年。

如果看你最前面那个帖子的话，还以为是杨立昆说了这个“幻觉”的问题呢。然而他压根没有，你对他的话的解读也是错误的。这是不是你自己也产生了某种“幻觉”呢？

很显然，这种程度的“幻觉”对你不重要，对Open AI也不重要。既不影响你参加工作，也不影响人工智能应用到各行各业。至于什么是重要的，你回去再好好看看杨立坤说什么就行了。我上面已经贴出来了。