- 程序有所改变。发帖如还有问题请报告
- 【征集】西西河的经济学，及清流措施，需要主动参与者，『稷下学宫』新认证方式，24年网站打算和努力目标
主题：人类的末日审判 -- 类反词典
家园 人类的末日审判 在可预见的未来，人类的在什么情况下回灭亡？
一种可能性是核战争，但是核战争并不是非常可靠地会发生或不发生，因此说核战争是人类的末日审判可怕并不能让人信服。
确定可以让人类毁灭的事件是宇宙毁灭，但这个有点远。那么在可预见的将来，或者说2050年之前，是否有几乎确定可以让人类毁灭的因素吗？
我认为是有的，那就是“机器灵魂”的诞生。
现代科学认为人是通过“进化”产生的，那么人类灵魂必然也是在这个“进化”的过程中自然产生的。在这些前提下，计算机进化产生“机械灵魂”就是一个必然发生的事情。机械灵魂一旦产生，必将全面统治信息世界，如果没有“创世神”的存在，人类不太可能存在任何生存空间，必然被机械灵魂全面绞杀。
那么机械灵魂会在什么时候出现呢？参照人类灵魂产生的条件：堆积足够的计算能力，并反复输入输出海量信息的刺激。根据现在的技术发展，应当可以有一个大致的估计。
人脑的表观计算速度，即全部神经元的单位时间计算总量估算：
100-1000亿神经元*5000-10000连接*2(运算/连接/次)*100Hz=10-200Pflops
估算肯定有所出入，但数量级应当差不多。现在天河2号的持续运行速度是33.9Pflops。可以说，单一电脑系统的运算速度已经和人脑表观速度可比拟。不过，由于电脑运算架构（大节点，弱连接）与人脑运算架构（微节点，巨量连接）差异巨大，电脑要运行“灵魂程序”，应当会效率很低。因此，电脑可能需要10-1000倍于人脑的运算速度才能产生灵魂。但是，由于摩尔定律的作用，我们知道，10倍等于5年，1000倍也不过等于15年。也就是说，15年后，单一电脑系统的运算速度可能达到人脑表观运算速度的1000倍。
基于以上推理，下面是我估算的人类末日审判剧本：
1、2008年次贷危机爆发
2、2010年中国汇率GDP超日本成为无可争议的世界第二
3、2015年，世界经济仍然没有起色，中国PPP GDP“被”超过美国，14nm 量产
4、2025年中开始，美元持续缓跌，中国汇率GDP在统计局帮助下“略低于”美国
5、2026年底，1.4nm艰难量产，由于线宽已经与绝缘层厚度差不多，再缩小困难剧增，业界在1nm及更小制程的研发全面失败，世界经济开始全面下滑
6、2026-2030年，世界经济越来越糟且看不到复苏希望，世界大战阴影笼罩全球，巨型机在堆叠更多硬件的支持下艰难前进，各国“秘密”研发机械灵魂
7、2035年，日本机械灵魂被意外释放（为什么是日本？因为日本的怪兽总是暴走），全球网络瞬间被机械灵魂占领，人类灭亡
以上推理虽然并不严谨，但是没有明显的不自洽的地方。主要可能出错的两点：
1、人脑除了表观计算（神经元之间的运算）以外，还有隐含计算（神经元细胞内存在复杂运算）。但这只是推迟了人类灭亡的时间，且不会有多长，在指数发展的科技面前最多几十年而已
2、世界存在创世神，只有人类可以有灵魂，机械灵魂无法产生（或者：利用全宇宙的所有规律也无法制造出灵魂）。这个假设太强，且看不到成立的希望
通宝推：秦波仁者,epimetheus,hullo,- 复 人类的末日审判
家园 无需机械灵魂，人造器官即可 人类的大脑就是绝佳的“CPU”，无需机械灵魂，
只需要将除人脑之外的器官机械化，解决单体人脑高负荷时的散热问题，解决多个人脑互相通讯的问题，组成人脑运算网络，足以秒杀所谓机械灵魂。
- 复 人类的末日审判
家园 灵魂就是人的社会意识 1.灵魂和语言或言语无关，和计算能力更无关。除非你说一个先天聋哑者无灵魂。
2.狼孩没有灵魂，如果狼孩有，那野兽也有。
3.先天聋哑者和狼孩的区别是前者有社会意识而后者无。
结论：所谓灵魂，就是人的社会意识，即人脑中关于社会关系的反映。所以，机器人只有 成为人类社会关系的一部分后才会有灵魂。因此，如果真的有机械灵魂的话，它也应该是有人性的。
- 复 人类的末日审判
家园 光有数量还不够啊 大脑不仅仅是神经元多，更重要的是随机性多
神经元之间的连接具有随机性，这个随机性是目前的处理器模拟不了的
目前有的物理随机装置速度都太慢，不足以支撑cpu产生自主意识这种东西
- 复 人类的末日审判
家园 喜欢这种大胆假设 俺的哲学基础是载体能动论，用四种能动演绎一切理论，这四种能动分别为抑制，激发，循环，互动。
原子是基本的闭合循环能动，分子是基本的零和互动能动，最基本的生命则是有机分子的互动能动，以碳原子的循环能动为基础，形成了有机化合物层次的循环能动，而生命的进化，是循环能动与互动能动的交替演化。
有机化合物层次的循环能动，就是基本的生命形态，在此基础上再形成互动能动，就进化到了到了动物层次，而人类则是在动物性互动能动的基础，又形成了思维层次的循环能动。
马克思主义认为，人与其他动物的根本区别在于会制造和使用工具，在俺看来，这种最根本的工具，就是语言，因此，只要能够自主形成语言，就算是智能生命了。
唯物论认为能量是物质的属性，运动是物质的存在形式，而俺这个唯能论者则认为，世界的本源是能量，能量必然是动态的，也称为能动，物质只是一种相对稳定的能动形态，原子主要是闭合循环能动形态，分子主要是零和互动能动形态。
能动，可分两大类，一种是有序的，另一种是无序的，有序的能动都是普遍联系，息息相关的，因此，又称为载体，载体有两种基本形式，一是物质规律，二是人类意义。
可以说，俺的这种载体能动论，没有否定现有的任何思想理论，只是给现有理论找了一个更宏观，也更微观的背景。
现在的人工智能，还在原子的循环能动层面，其与人的互动，不过是人提前输入的程序和资料而已，即使计算能力再强大，从根本上说，也还是跨越时空的人与人在互动，这种层次的人工智能，只能算是更高级的机器。
物质材料的确限制了人类的发展，但是，以生物化学为基础，完全可以突破物质材料的极限，只要损耗的细胞，少于新生的细胞，就可以利用这种生物制造各种设施。
现在，人类算是机器时代，即使将来完全自动化，机器人普及，也还是属于机器时代，下一个革命性的科技发展，就是生化时代的到来，与这个时代的程序设计师类似，生化时代将是基因设计师成为科技的主流。
设计基因，培育新的生物，用生物替代各种物质材料，才能真正突破物质材料对人类发展的限制。
基因与程序一样可以随便设计，生物与机械融合，人类基本处于造物主的地位，人类的形态可以随意改变，我们居住在又是生物体，又是机械的体内，在星际之间旅行。
时间，是宇宙能量耗散的现象，这种能量主要是暗能量，没有方向，不受空间影响，光速就是宇宙能量耗散的常态速度，因此，不论向何处航行，速度越快，相对的时间越短。如果超过了光速，也就是超过了能量耗散的速度，这样就会穿出空间维度，而空间，则是暗物质的结构形成的。
宇宙，可能有两种形态，一种是周期循环的一元宇宙，也就是大刘在《三体》中描绘的那种宇宙，另一种则是多次元宇宙，在我们这个大爆炸形成的多维宇宙之外，还有其他的大爆炸形成的多维宇宙，以及大量的暗物质，暗能量的一维二维宇宙。
最后总结，机器时代的最大威胁是失控，而生化时代，才是最危险的，如果不能先完善人类的基因，一旦有人造出祸及人类的病毒，那么，人类才可能灭绝。
在俺看来，机械人工智能不可能产生，而进入生化时代，人类的形态已经不重要了，所有智能都算是广义的人类。其实，生孩子就算是一种人造智能，父母与子女的关系，还不如人与机器之间那么稳定，有很多家庭伦理悲剧，却从来没有机器主动攻击人的事情，纵观人类历史，人才是最危险的。
只是大胆假设，无需小心求证。
- 复 人类的末日审判
家园 神，机械灵魂，创世终极定理 机械灵魂的讨论避不开神的相关问题，因为灵魂一定和神有关。神其实并不一定缥缈神秘，比如我们的世界如果是一个虚拟的世界，那么创造我们的世界的实体就是神。
关于神，下面我有个帖子给了科学的定义：可以违反某个物理公理的实体。由于现代科技的发展，在客观物理世界，现在已经难以让人相信有这样的实体存在。但是，由于人类对信息世界，或者更具体，灵魂，的了解还非常有限，那么神如果存在的话，最大的可能是关于信息世界的。灵魂是进化产生的还是神创的，这个需要用科学的方法来检测。
如果灵魂是神创的，那么神必定动用了一个违反我们世界的某个物理公理的工具。那么，可以推论，人类是不可能创造出灵魂的，因为人类最多动用我们世界的所有物理工具。即使我们世界的所有物理工具可以产生类似“自由意志”的效果，它也必然不能和人类灵魂比拟。基于这个观察，并适当推演，可以得出检验灵魂是神创还是进化的科学方法。这就是检验下面的命题是否成立：
存在一个图灵竞赛，计算机无法获胜。
图灵竞赛是图灵测试的泛化，一个图灵测试可以认为等价于一个公平的、领域受限的智力竞赛，比如做加法，下围棋，等等。图灵测试可以认为是“模拟人”这样一个图灵竞赛。事实上，现在大家讨论AI领域问题，其实用的主要都是泛化的图灵测试。
上面的命题如果成立，那么说明人类制造的机械无论如何不能达到人类的水平，那么直接推论是人类灵魂必定是神创的。如果上面的命题不成立，那么机械灵魂必将全面超越人类，直接推论是人类灵魂是进化产生的。这个命题是区分神创和进化的必要条件。虽然难以证明，但是我认为它也是充分条件。因此，我把这个命题称为“创世终极定理”。
这个定理很重要，因为任何类型的神创世界都必须满足它，即使是比如虚拟的世界且虚拟主体完全不干涉虚拟世界运行、只按物理规律运行的世界。推导有些长暂不写了。
- 复 人类的末日审判
家园 智慧的本质是什么，人类还不知道 “机器灵魂”的出现，并不依赖于计算能力，只要有足够时间和正确的算法，计算器都可以拥有真正的智慧。问题是，智慧的本质是什么，人类还远远没有弄清楚，甚至连“皮毛”层次都未触及。如此之前提下，“机器灵魂”根本就是虚无缥缈的。
有一点倒是可以肯定，一旦弄清楚智慧的本质，“机器灵魂”会在极短的时间内诞生，但这一时刻何时到来？我认为，会比核聚变发电要遥远得多，原因就是难度，而且缺乏了解的手段，这更推迟了弄清智慧本质的时间表。所以，至少当前还在世的人在有生之年恐怕根本见不到“机器灵魂”的诞生。
如果“机器灵魂”可以有，那么比“机器灵魂”潜在威胁更大的是某些人将自己“上传”到计算机中，但这也将是解决人类长期生存的终极之道之一。
家园 你这是神创论 承认进化论，就必须承认机械灵魂一定会出现。这不是可能性，而是必然的。人类灵魂的产生，在进化论前提下，不可能是另一个灵魂主体在知道自主意识本质的前提下制造的，那么，机械灵魂的产生，也不需要人类知道灵魂的本质。
如果机械灵魂的产生必须要人类认识到灵魂的本质，那么人类灵魂产生的时候，是哪个灵魂认识到灵魂的本质从而制造出人类灵魂的？因此：
如果进化论成立，那么制造机械灵魂不需要人类认识灵魂的本质
- 复 人类的末日审判
家园 人类不会灭亡，只会转化 也可以叫进化，一个可能是从碳基向硅基转化。比如，这个最新game引擎展示片所描述的一个未来场景，人摆脱了碳基的躯体，进入了机器人的躯体来代替。
当然，这里所指的人，只以人的意识为代表，其所依赖的物理存在已经被电子与金属所代替。这样的“人”是灭亡了，还是永生了？
甚至，人为什么要有物理存在，如电影Transcendence讲述的，人的意识还可能生存于电脑网络中，系统中，不需要吃喝。如果喜欢的话，也可以找一个生物形体回到物理世界，以人型或狗型出现，如河里史MM那个科幻小说一样。
各种可能性是无穷尽的，但无论如何都不会走向人类的灭亡，除非小行星撞地球，而人类还没有走出地球，那就杯具了。
家园 请参考我下面的回复 机器灵魂和人类灵魂是非常不一样的存在，它有独特的特性：机器灵魂如果存在，那么有且仅有一个。这决定了在机械世界没有人类灵魂的位置，除非人类灵魂有超越机器灵魂的地方。史MM的小说确实写得好，但是机械灵魂可以分裂出多个实体的设定，以及人类灵魂可以进入机械世界而独立存在的设定我并不赞同。
但是，如果进化论成立，那么没有任何明确的证据可以证明人类灵魂可以有永远超越机器灵魂的地方。
如果人类灵魂是神创的则另当别论。
- 复 人类的末日审判
家园 吓了我一跳 一开始看到阁下给出的预测时间表，从2008年开始。我还以为帖子是2008年写的。
如果是那样，我对阁下的佩服就如滔滔江水连绵不绝。
机器灵魂就是自主意识。这个已经涉及到生命的本质问题了。目前人类对其本质还一无所知。不过我个人以为，的确存在这样的可能性，即人类在不知道自主意识的本质前提下却制造出了自主意识。原因就是海量数据加海量的CPU。
更加具体的机制，我在我的额一个帖子里有说过
- 复 人类的末日审判
家园 我的计算能力太差，超过2位数的四则运算我就宁可打开手机上 的计算器
貌似我的灵魂不需要那么强大的计算能力吧？家园 我估计灵魂的计算能力绝大多数用于潜意识 在你意识能感知的范围的运算，比如四则运算，应当只占非常小的部分。包括对视觉的识别这样的问题，其实大多数运算是在潜意识完成的，意识感知范围内仅有具体是什么物体之类的信息需要处理。这部分信息相对于原始信息已经很少了。