自我意识是个外界的PERCEPTION，一个微妙的BUG可能会让外界觉得程序有了自我意识

送交者: meiyou 于 2016-03-10, 10:50:28:

简单程序的BUG可能会在不该断电的时候断电，该断电的时候不断，也许会杀死主人。这个外界也许会觉得程序有了自我意识，谋杀了主人。但是这显然不是。
以后复杂AI系统的BUG会导致复杂的行为，而且是更加人性化的行为（欺骗，策略，同谋，诱惑，胁迫等等）。既然是BUG当然是设计者没有想到的，人类不期望的。但是后果也许是不可逆转的，就像人死了不可复生。整个社会都被控制了，离了这个系统人类也无法生存。

所有跟贴:

怎么了？人类的自我意识难道不是bug被选择积累起来才出现的吗？ - 蓝隼 (103 bytes) 2016-03-10, 11:41:24 (803240)
- 人类灭绝了很多其他物种，对它们来说不可怕吗？ (无内容) - meiyou (0 bytes) 2016-03-10, 12:45:29 (803249)
  - 类比不当，人类和别的物种不是被造和造者之间的关系 - 蓝隼 (136 bytes) 2016-03-10, 15:04:38 (803277)
    - 跟哪有关系吗？人类要是被控制了是不是很不爽呢” (无内容) - meiyou (0 bytes) 2016-03-10, 19:57:28 (803300)
      - 你现在出行必须按航空公司的售票网站给的选项来买飞机票，开车 - 蓝隼 (244 bytes) 2016-03-10, 22:42:11 (803320)
        
        i couldn't enlighten someone playing dumb (无内容) - meiyou (0 bytes) 2016-03-10, 23:31:19 (803326)
BUG这种东西一直就有的，核电厂爆炸、飞机掉下来。 - whoami (93 bytes) 2016-03-10, 11:23:03 (803236)
- 工业机都能在很短时间内自动reset。如果电脑真是有bug的困扰，那么早就天下大乱了 - whatistruth (17 bytes) 2016-03-10, 11:26:24 (803238)
柯洁嘴贱，居然公开暗示谷歌跟李世石串谋，也许会惹上麻烦 (无内容) - meiyou (0 bytes) 2016-03-10, 11:00:02 (803232)
- 中土不发狂妄自大的人, 本事有, 但教养则差多了. - silxirt (109 bytes) 2016-03-10, 14:03:09 (803260)
- 网上已经有李谷下假棋的说法了，或猜李被规定不许打劫。 (无内容) - zhangqq (0 bytes) 2016-03-10, 11:42:23 (803241)
  - 不许打劫的说法应该是捕风捉影。 - zhangqq (480 bytes) 2016-03-10, 15:39:52 (803281)
    - 同意 (无内容) - pgss (0 bytes) 2016-03-10, 19:42:17 (803296)
      - 李世乭想正正经经地比赛。这是许多中国土壤长大的人无法理解的。 - pgss (28 bytes) 2016-03-10, 19:44:48 (803298)
- 似乎他还暗示自己(比李厉害)能搞定阿法狗？如果是，这个更贱 (无内容) - whatistruth (0 bytes) 2016-03-10, 11:11:38 (803235)
  - 其实柯杰就是调侃而已。后来他也修正了说法。 (无内容) - pgss (0 bytes) 2016-03-10, 19:54:11 (803299)
  - 他没有暗示，他明示说即使赢了李世石也赢不了他 (无内容) - 一事无成 (0 bytes) 2016-03-10, 12:27:51 (803246)
    - 两局下来现场评棋的职业队都被啪啪打了无数脸，然后个个还信心十足。 - whatistruth (36 bytes) 2016-03-10, 14:34:02 (803264)
    - 他对李的胜率很高，但不懂Alphago不是人。中土这些事情上也缺少辞令。 (无内容) - LB (0 bytes) 2016-03-10, 12:45:45 (803250)
youtube的Michael九段胜负感不是很好的感觉，第一盘中盘告负前一秒都还说局势不明 - meiyou (99 bytes) 2016-03-10, 10:54:50 (803231)
- 用电脑有线网络看腾讯没有问题，不要用ipad之类，卡的没法看。 (无内容) - zhangqq (0 bytes) 2016-03-10, 11:04:55 (803233)
  - 我拿着ipad坐在路由边上都不行。用电脑看好好的。 (无内容) - zhangqq (0 bytes) 2016-03-10, 11:06:03 (803234)
    - 也许是google和微软联合起来跟苹果做对？ (无内容) - whoami (0 bytes) 2016-03-10, 11:24:56 (803237)
      - 我的电脑用的是mac os。 (无内容) - zhangqq (0 bytes) 2016-03-10, 12:28:59 (803247)

加跟贴