淘客熙熙

主题:【讨论】民主vs自由? -- 歌未竟

共:💬15 🌺133 新:
全看分页树展 · 主题 跟帖
家园 和你这个话题,很相关的一个问题是对人工智能应用的限制

当前的人工智能应用,很多是基于统计学的,也就说根据大多数(当然这个大多数会有不同维度上的定义)的情况做判断。随着应有的深入,如果进入某些具有公权力的空间,是否会造成对个人权力的侵害?是一个值得考虑的问题。

如果从商业价值上,损失1%的人群,甚至90%的人群问题并不大,有足够数目的盈利人口就够了,比如广告。但是一旦进入公权力,就会出问题。假如我们发现了一个模型,可以依据其他行为做强奸判定,依据多数人行为模式,有99%的正确率。那么当原告被告发生矛盾,都无法举证的时候,是否可以应用这个模型?就会成为一个争议。类似的还有人工驾驶对行人或者其他驾驶员行为的估计等等。比如一个驾驶软件设计企业不会为了少死几个人,去多花几十亿优化剩下小数点后面那几个零的。

当然,这还是比较明显的。比较不明显的是,商业化基于统计的人工智能应用,会训练人们更趋向于统计学的多数,缩小方差,损失多样性,在很多时候,就是损失创造力。换句话说,我们现实中的人工智能应用,可能已经形成了一个“人工的进化选择器”。比如小孩子看抖音,很多本来不爱看的,因为同学朋友的选择会被迫加入。当然在哪个社会都会有类似的从众情况。但是人工智能的应用,会大大加速这个行为。对于成人,也有论坛水军对读者政治观点,甚至人生观的塑造。这些都可以算广义上的民主vs自由问题。即多数可以在多大意义上对全体施加影响。

通宝推:审度,张燕,歌未竟,sywyang,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河