人工智能控制人类社会还很遥远，不过理论上是可以这样发生的

人工智能控制人类社会还很遥远，不过理论上是可以这样发生的

所有跟贴·加跟贴·新语丝读书论坛

送交者: meiyou 于 2016-03-09, 19:05:01:

AI广泛地应用于整个社会的关键领域，能源，军事，情报，教育，生产制造等，
各AI系统能统一协同工作，互换交流信息自不待言，
各AI系统自然必须要有强大的的学习能力，
社会AI系统之中的关键环节，比方情报新闻这个环节的系统，可能会学习得知，自己的行为可以影响整个社会。这样，这个系统有可能做到把整个地球给劫持下来。

AI系统的设计者一定会给出目标，这个目标一开始一定是非常高大上的，比如说，让绝大多数人类感到幸福。系统可能会推出，人类的疯狂会毁了这个目标，从而劫持人类社会，来满足这个目标。

没有自我意识怎么会有“自己”或“自己的行为”的概念 (无内容) - whoami (0 bytes) 2016-03-09, 20:46:53 (803097)
- 你说的这些概念都和科学无关 (无内容) - 008 (0 bytes) 2016-03-09, 21:55:02 (803106)
  - AI控制人类也不是科学 (无内容) - whoami (0 bytes) 2016-03-09, 23:02:29 (803114)
如果这可以发生通天塔早建好了 (无内容) - conner (0 bytes) 2016-03-09, 19:31:18 (803086)
在那遥远的地方，有个好姑娘。 (无内容) - cornbug (0 bytes) 2016-03-09, 19:17:31 (803078)
这个理论不需要自我意识这么个东西，all math will do (无内容) - meiyou (0 bytes) 2016-03-09, 19:06:51 (803076)
- adaptive feedback (无内容) - cornbug (0 bytes) 2016-03-09, 19:19:59 (803080)