杀手机器人吗？ 停止，即使是良好的机器人是不可预知的恐怖

<首长超过百领先公司在该领域的人工智能感到非常关切的是有关发展的"杀手机器人"。 在一封公开信给联合国的这些商界领袖、包括伊隆*马斯特斯拉的和谷歌的创始人DeepMind，已警告说，使用技术的自主武器可能采取的恐怖主义分子和暴君，或在不同程度上会得到攻击。

<<跨id="更270166">

<但真正的危险是严重得多–这不仅是人类的行为，但也在发动机。 这项研究的复杂系统表明，他们可以表现得更加不可预测比，可以得出结论，从总和个人的行动。 一方面这意味着人类社会可以表现在一个完全不同的方式比，你可能期望，研究该行为的个人。 另一方面，这也适用于该技术。 甚至生态系统的简单人工智能程序–这是我们呼叫愚蠢的，好的机器人可以让我们感到惊讶。 甚至在单个机器人可以表现得可怕.

<个别项目包括复杂的系统，例如市场经济或全球的天气，往往不进行互动在一个简单的线性的方式。 这使得这些系统非常困难的模式和理解。 例如，即使经过多年的研究气候是无法预测的长期行为的天气。 这些系统都是如此敏感的小的变化如何爆炸他们的反应。 这是非常困难的知道确切的国家的这种系统在一个特定的点上。 所有这使得这些系统内部的不可预测。

<所有这些原则适用于大量人群作在他们自己的方式，是人类社会或集团的机器人与人工智能。 最近，科学家们研究的类型之一的复杂系统，其中很好的机器是用于自动编辑的文章在维基百科上。 这些不同的机器人设计、编写和使用的可信维基百科的编辑，和他们的基础软件是开放源代码并提供给大家。 独立，他们有一个共同的目标，以提高百科全书。 但是，他们集体的行为被证明是令人惊讶的是无效的。

<这些机器人是维基百科的既定规则和公约，但由于网站没有中央控制系统，没有有效的协调人之间的运行不同的机器人。 结果表明，一对夫妇的机器人，谁几年取消了编辑彼此并且没有人注意到。 当然，因为这些机器人不能学习，他们没有注意到。

<这些机器人是设计来加速编辑过程。 但是，小的差异在设计之间的机器人或人民使用它们，可能会导致巨大的资源浪费在正在进行的"战争的编辑"，这将是解决更快的帮助下编辑。

<研究人员也发现，该机器人的行为以不同的方式在不同语言版本的维基百科。 规则，这似乎是几乎相同，目标是相同的，该技术是类似的。 但在德国维基百科的机器人合作是更有效率和生产力比，例如，在葡萄牙语。 这只能被解释之间的差别编负责人，这些人在不同的环境。

指数混乱

<机器人维基百科上具有广泛的自治和该系统工作的在按照目的各个机器人。 但是，基金会计划使用AI，将给予更多的自主权，这些机器人。 这可能会导致甚至更加不可预测的行为。

<一个很好的例子，会发生什么，显示机器人，创建人交谈时，他们被迫相互沟通。 我们不再惊讶的答复的个人助理就像Siri。 但是让他们互相通信和他们迅速开始表现在意想不到的方式，争辩，甚至侮辱。

<面src="https://www.youtube.com/embed/WnzlbyTZsQY"width="650"height="322"架边界="0"allowfullscreen="allowfullscreen">

<更多的系统变得更加自治的每一个机器人变得更加复杂和不可预测将在未来行为的系统。 维基百科是一个例子工作的一个很大的数量相对较简单的机器人。 例聊天-机器人是一个例子一个小数的相对复杂的和巧妙的机器人–在这两种情况下，有不可预见的冲突。 复杂性，因此不可预测性呈指数级增长，如果添加到系统的个性。 所以当在未来将有系统拥有大量的非常复杂的机器人，不可预测性，他们将超越我们的想象力。

烈的疯狂

<自动驾驶的汽车，例如，承诺做一个突破，在效率和道路安全。 但是，我们仍然不知道会发生什么，当我们有更多的野生系统是完全自治的汽车。 他们可能不同的行为，即使在一个小队的个别车辆在受控环境中。 甚至更不可预测的行为可能会发生时自动驾驶的汽车，"培训"通过不同的人在不同的地方开始相互作用。

<人能适应新的规则和协定的相对较快，但是困难的交换之间的系统。人工试剂可以更加困难。 例如，如果"训练有素的德国"的汽车，例如，去意大利，我们不知道他将如何学习不成文的文化协定，这是随后通过其他许多"训练有素在意大利"汽车。 世俗的东西喜欢穿过交叉路口可以致命危险的，因为我们只是不知道是否有机互动的正常，或开始表现得异常。

<现在认为凶手机器人打扰的掩模和他的同事们。 一个杀人机器可以是非常危险的，在错误的人手中。 和系统不可预测的机器人杀手呢？ 想想自己。