为什么是大赦国际谴责的罪犯是危险的？

<人工智能是已经以某种方式有助于确定你的未来。 当你在寻找的东西在一个搜索引擎，使用服务，如Netflix或银行评估适宜性进抵押贷款。 但是，如果人工智能将必须确定你是否有罪，或不在法庭上吗？ 奇怪的是，在一些国家，这可能已经发生的事情。 最近，美国高官约翰*罗伯茨问，如果他可以想象一天，当"智能机器控制的人工智能，将有助于在寻找证据或甚至在司法决定"。 他说："这是已经发生的，它大大有助于在司法程序"。

<<跨id="更260662">

<也许罗伯茨是参照最近的情况下，埃里克*卢米斯，他被判处六年监禁的建议秘专利软件的私人公司。 卢米斯，谁已经有犯罪历史，并被判处为这逃离警察在一辆偷来的汽车，现在声称，他的权利的程序受到了侵犯，因为他和他的代表无法检查或质疑该建议的算法。

<该报告是由罗盘计划，这是出售Notrpointe法院。 该程序体现了一种新的趋势，在艾研究：它可以帮助法官采取的"最佳"(或至少更集中在数据)在法庭的决定。

<虽然在具体细节的情况下，卢米斯仍然关闭，这当然包含图表和数字的识别生活、行为和复发的可能性卢米斯。 在他们中间年龄、种族、性别特征、习惯、浏览器的历史和一些测量的头骨。 没有一个是肯定的。

<已知的是，检察官在的情况告诉法官，卢米斯展示了"一个高风险的累犯、暴力、预审程序"。 这是标准，当涉及到判决。 法官同意，并告知卢米斯，"根据罗盘，他被定义为一个人提出一个高风险的社会。"

<最高法院的威斯康星州的谴责卢米斯，加入，罗盘的报告带来了宝贵的信息给他的决定，但指出，它进行了同样的判决。 检查这个肯定的，当然，不会的工作。 什么是认知的偏见，当事实上参与全能的"智能"系统就像一个罗盘，其中建议法官如何做到的？

未知

<让我们坦率地说，没有什么"非法"，由法院的威斯康星州的只是一个例子。 其他法院可以而且也将这样做。

<对不起，我们不知道到什么程度使用的大赦国际和其他算法，在判刑。 据认为，一些法院拥有"测试"的系统之类的罗盘在私人研究，但可能不宣布他们的合作伙伴关系。 还有一种看法，即若干创业企业都是发展中AI类似的智能系统。

<然而，使用AI在法律上没有开始和结束的判决，开始调查。 在英国的系统已经开发VALCRI执行的艰苦的分析工作在几秒钟内—韦德，通过吨的数据，如案文的实验报告和警方的文件为突出的事情，可能需要进一步调查。

<西米德兰兹郡警察局在英国，使用匿名的数据，包含超过6.5万个记录。 一个类似的试验进行的警察的安特卫普的比利时。 然而，在过去，该项目的大赦国际和深入的学习，其中包括庞大的数据集，是困扰。

利益为少数

<技术提供了许多有用的设备该厅的法院，从复印机中提取的DNA指纹和精密的监测技术。 但是，这并不意味着任何技术—；这是一种改进。

<虽然使用人工智能在调查和判刑可能可以节省时间和金钱，就将创建严重的问题。 在罗盘的报告ProPublica，它清楚地指出，黑程序错误地认为更容易再次犯罪的被告，比白人。 即使是最先进的人工智能系统可能继承了种族和性别偏见的那些人创造了他们。

<此外，什么是点转变的决策(至少部分)上的问题，是独特的人的算法？ 在美国有一定的困难，当陪审团审判他们的同龄人。 该标准的法律从来没有一个参考，因为这些陪审团是最民主的和有效的系统的谴责。 我们犯错误，但随着时间的推移，积累知识如何不请他们，完善该系统。

<罗盘和类似的系统，是"黑箱"在法律系统。 这样不应该的。 该法律系统取决于连续性、透明性的信息和能力考虑在内。 社会不希望出现一个系统，鼓励了种族与艾，开始，这使速效、廉价的和独特的解决方案。 匆匆作出AI将是可怕的。

<一个更新版本的罗盘，开放源会更好。 但是，首先必须提高标准的司法系统，在我们开始之前承担责任，在有利的算法。