黑暗的数据：人工智能学会识别同性恋者的照片

<我们已经成为依靠机学习系统在一切都从创建播放列表的控制汽车，但是，像任何工具，它们可用于一个危险的和不道德的目的，即使是偶然的。 今天的图这一事实一个新的条款，由研究人员从斯坦福大学创建一个系统的学习机，其中，他们的权利要求，可以告诉你一些照片...同性恋者在你的面前。 或者不是。

<<跨id="更271027">

<显然，这项研究是令人惊讶和令人沮丧的是在平等的措施。 事实上，除了脆弱的群体的人民将再次受到有系统的侵犯隐私权和私密的主题，这直接影响平等概念，我们不能(而不应)的判断一个人通过他的外表，而不具有的权利猜想的性倾向的一个或两个图像。 荒谬？ 该系统准确报告的工作，然而没有疑问：现在是不仅是可能的，但完成。

<系统起的放射物多更为微妙，比能够vosprinimat人们看到线索，你甚至不知道。 它显示了作为旨在隐私、私人生活的时代无处不在的计算机视野可以简单地被摧毁。

<之前继续讨论该系统本身，有必要澄清这项研究进行良好的意图。 这些问题，当然，还有数不胜数。 最相关的，也许是该发言的米哈尔科辛斯基和伊隆王为什么工作确实看到了曙光：

<大段引用><"我们非常关注这些结果和花了很多时间来做的，他们公开。 我们不想让人们对这些风险有关，他们被警告。 控制能力以及何时和对何人透露其性的取向，是至关重要的，不仅对于人类的福利而且对他的安全。"

<"我们认为，立法者和类别相关疾社会需要意识到所面临风险的。 我们没有创造一个工具，侵犯隐私权，而是表明，简单的和广泛使用的方法构成严重威胁的生活。"

<肯定，这只是其中的许多系统地试图提取机密信息，如性行为、情绪状态，或医疗记录。 但在这种情况下仍然更严重的原因有几个。

看到，这是不可能的(和不必要的)

<在发表的一篇文章在该杂志的个性和社会心理学，详细描述了一个相当普遍的做法的基础上加强学习，任务是确定的可能性识别的人作为同性恋或者不在他们的面孔。 注意：工作仍然是在形成的草稿。

<使用数据库的照片面(其是从约会网站，网站上有公开的数据)，科学家集聚了35 326照片14 776人，其中有同等表示男性同性恋者和妇女。 他们的脸部特征提取和计算从鼻子的形状和眉毛面部的毛发和面部表情。

<神经网络深学习吃了所有的这些功能，注意到它通常与一定的性取向。 科学家不是"种子"与成见有关如何通常是正常的人或同性性取向；这一系统只需分配的功能和相关的它们的性偏好。

<这些模式可以允许计算机猜想的性倾向的人和事实证明，艾系统更好地处理这项任务于人类。 算法是能够正确地确定方向91％的男性以及83%的妇女，两个在一段时间。 人提供这些图像是对在61%和54%的情况下，分别为—就是一枚硬币，将得到同样的结果。

<变化之间的四个组中所述的第二篇文章，除了明显的行为差异，像追求相同的集团或一个类似的化妆，总的趋势是存在的"女性"特点，在同性恋男子和"男性化"特点，在女同性恋.

<<他们>该图显示，在那里设有指示性取向

<应当指出，该系统的准确性是实现理想的条件下选择的两个人之间，其中一人是同性恋。 当该系统进行评价在一个组中的1 000人，其中只有7%属于同性恋人(更多的代表性是实际的人口比例)，结果是不好的。 在最好的情况下一样的10个人被承认有90%的精确度。

<还有一个真正可能的偏见，在该系统由于数据：第一，它们只包括年轻的美国白人的种类型的男人/女人和同性恋的/正常的。

<"尽管我们试图获得更多种多样的样本，我们被局限于研究的白色的参与者来自美国。 由于歧视同性恋者和使用网上约会站点是不均匀地分布在不同的族裔群体，我们无法找到足够数量的非白人同性恋的成员。"

<尽管科学家们认为，其他族裔群体都可能有类似的脸部图案以及该系统还将有效的定义，事实上，它是必要的，以确认和不承担。

<还它可以说的是，分类收集，特征的人约会网站，也不是没有帮助的机构的自我选择，例如，美国男子与一个正常的性取向，可以刻意回避的外观，这会表明，它们可以是同性恋。

<当然，真正有效性的这个系统的合理的质疑，因为它是培训基于有限数量的数据和主要的有效的实例，从这个游泳池。 进一步的研究将是必要的。 然而，这似乎是短视的假设，正在运行的系统是不可能的。

真相

<许多人认为，这种技术没有更好的比"相学2.0"，壳牌的时候无关的物理特性与复杂的内部进程，这是可以理解的，但不是真实的。

<"地貌现在广泛和正确地拒绝一个组合的迷信和种族主义的伪装成的科学"的科学家编写的导言的工作(地貌判断的面部特征，而phrenologists研究了颅骨的形状). 但是，这种伪科学已经失败，因为它的支持者们在朝相反的方向。 他们决定谁是参与在"刑事"或"性偏差"，然后确定哪些功能是常见到这样的人。

<原来的人就不应对这样的任务，我们看到的人太多了我自己和作出直觉的结论。 但是，这并不意味着可见特征和生理或心理是不相关的。 没有人会怀疑，机器可以标记在人们的特点，他们看不到，从微小的化学痕迹爆炸弹药和微妙的模式核磁共振扫描，其中告诉一个开始癌症。

<从文的计算机视觉系统的选择同样的微妙的图案，这两个人为的和自然的，但在第一位；科学家们试图把重点放在特征，不能轻易改变的。 这种支持的假设性行为是生物学的确定，也许在影响的各种因素对胎儿的发展，这可能会导致小的生理差异和荷尔蒙模式的呼吁。 所观察到的系统模式是相似的预测理论的产前激素。

<这是起点的一个更广泛的社会和哲学辩论的有关爱情、性、确定性和智力情感和人士以简单的生物学特征。 但是，我们不会。 好碰上其他严重问题有关的保密性。

危险和限制

<影响的自动确定的方向上的人几张照片巨大的，首先和最重要的，因为把人的类别相关疾风险群体在整个世界在那些地方，在那里他们仍然被压迫的少数民族。 潜在的滥用这种系统是巨大的，一些可以理所当然地不同意的决定的研究者对其创作和文件。

<但同样你可以争辩说，最好是能够打开它，实施反措施或以其他方式允许人们为它做好准备。 不同的是，你可以隐藏的信息在网上发布；不能控制谁看到你的脸。 它是由的社会中，我们的生活和隐瞒的共同看法是越来越少。

<"即使最好的法律和技术来保护隐私，在我们看来，注定要失败的，"科学家们编写的。 "数字环境中是非常困难的警；数据可以很容易地跨越边界，窃取或记录不同意"。

<这一问题是极其复杂的，但它体现了惊人的能力的人工智能。 这样的后果的技术，如往常一样，含糊不清，但是非常有趣的人类未来的和个人。 科学家本身并不特别乐观的关于使用这种技术的未来，但是现实在一个时代的技术，其预计的拯救计划，最有可能将发挥的恶棍.

<"我们认为，进一步侵蚀的私生活是不可避免的，并且安全的同性恋者和其他menshinstv不依赖于隐私权和尊重人权和容忍的社会和国家"，他们写的。 "世界在时代后的隐私是更安全和更受欢迎，它需要填写接受过良好教育的人都难不容忍的不容忍"。

<技术不会拯救我们从我们自己。

<<他们>内容<他们>。