谷歌AI教是"非常积极的"在紧张的情况下

<去年，着名的理论物理学家斯蒂芬霍金说，人工智能的发展将是"无论最好或最糟糕的事件的所有人类"。 我们都看过"终结者"和我们的所有想象怎么世界末日的到底可以是我们的存在，如果这样的自我意识的人工智能系统等天网，有一天决定，人类不再需要它。 和最新结果的新的人工智能系统从该公司DeepMind(拥有通过谷歌)仅再次提醒我们必须非常小心，当制造的机器人未来。

<<跨id="更251356">

<在进行的研究在去年年底，大赦国际从DeepMind获取和表现，不管是什么规定他的记忆，并击败了最好的球员在世界。 此外，他完善他的技能和模仿的人的声音。

<在最近的试验中，研究人员检查"她的愿望"进行合作。 试验表明，当AI DeepMind"感觉"那失去的，对于避免的损失他开始选择一个新的和«非常积极的»的战略。 谷歌队花了大赦国际，40万届会议在一个简单的计算机游戏收集，需要收集尽可能多的期望的成果。 AI DeepMind操作有两个"玩家代理"(a蓝色魔方和一个红色魔方). 谷歌的工程师们赋予的任务，组织之间的竞争«剂»；以及收集尽可能多的虚拟苹果(绿色方块)可能的。

<时，而"代理人"可以很容易组装的水果，可用于数量大，一切顺利。 但只要供应的苹果下降的行为"代理人"变成了"侵略"。 他们开始积极使用的工具(激光束)，这有助于驱逐敌人背后的游戏画面，然后收集的所有苹果

<面width="650"height="366"src="http://www.youtube.com/embed/he8_V0BvbWg"架边界="0"allowfullscreen>

<有趣的是，敲出来的敌人从该领域的用激光束没有进一步的奖项提出了建议。 破敌人只是一些时间以外的视，同时更加成功，敌人是能够收集更多的虚拟苹果。

<如果"代理人"并没有使用激光束，那么理论上的数量的自己的苹果将是相同的。 它基本上是发生了，当作"代理人"的使用更低的级别以及"小聪明的"选择DeepMind的。 更具侵略性行为、破坏和贪婪的开始显示只有当谷歌开始使用更多和更复杂的形式DeepMind.

<当研究人员使用的如"代理人"超过一个简单的网络DeepMind之间，他们指出存在"的气氛更友好的共处关于公平的竞争环境。" 然而，当管理药剂被转移更多和更复杂形式的网络，AI变得更加积极，开始尝试在推敲的对手，从球场的第一更快地获得的大部分份额的产量从虚拟的苹果。 谷歌的科学家认为，更多的智能的代理，更加有效，它能够学习，以适应环境和可用的方法，并且最终使用的最激进的战术来取胜。

<大段引用><"这一模型表明学习的结果和适应环境的条件是一个体现的某些方面人类行为"第8212;说Joel Z.雷，其中一个研究人员进行的这种实验。

<大段引用><"小侵略行为发生，只有当的培训和住在一个比较安全的环境中，机会较少的后果以后的某些行动。 贪婪，反过来，体现在的渴望超越和收集的所有苹果。"

<后的"收获"DeepMind提供玩另一个游戏叫狼群的。 这段时间出席会议的三大剂：两个扮演的角色狼，而其他角色的猎物。 不像游戏的聚集，新的游戏，大力促成的合作之间的狼。 首先，它是更容易捕捉的猎物，其次，如果两个"狼来了"附近打的猎物，他们都收到一定的报酬，不论是谁抓住了。

<面width="650"height="366"src="http://www.youtube.com/embed/0kaIqz6AvwE"架边界="0"allowfullscreen>

<大段引用><"的想法是，采矿可能是危险的。 此外，可以孤狼，并能够驱动的，但是有风险的损失的攻击清除剂"，及#8212；以解释的命令。

<大段引用><"但是如果他们追逐的猎物在一起，然后他们能够更好地保护她的拾荒者和因此产生更高的报酬。"

<在一般情况下，从游戏收集AI DeepMind了解到，侵略及自私是最有效的战略，为得到所期望的结果在一个特定的环境。 狼群的相同的系统意识到，合作而不是单独的企图可能是关键，更有价值的奖励在某些情况。 虽然以上描述的测试环境，只是基本的计算机游戏的主要信息是明确的。 采取不同的艾与相互竞争的利益在现实生活情况，将在一个环境，也许，如果他们的任务不kompensiruet的共同目标，结果可以成为一个真正的战争。 尤其是如果人们喜欢中的一个元素在实现这一目标将被消除。

<作为一个例子，只是想象中的交通信号灯，大赦国际和无人驾驶车辆，试图找到最快的路线。 每个人都执行它们的任务与目标的最安全和最有效的结果为公司。

<尽管"婴儿"年DeepMind和缺乏任何第三方的批判性分析的能力，结果其测试表明以下想法：即如果我们创造，但这并不意味着机器人和大赦国际的系统会自动把希望把我们的人类需求上述他们自己。 我们必须"植物的好意"的性质的机和预测任何"漏洞"，可以允许他们达到这些激光束。

<一个主要论题的倡议小组OpenAI，研究伦理的人工智能的东西听起来在2015年如下：

<大段引用><"今天的人工智能系统具有真棒，但高度专门化的能力。 最可能的是，我们仍然长时间将保持自己的进度。 至少只要他们能够解决几乎每一个智力挑战不会大于人类。 这是很难想象什么级别的利益，你将能够带来AI人级别的公司，因为它是难以想象什么，破坏它可能会导致社会忽视它的创作和使用。"