Pourquoi l'IA condamnant les criminels, c'est dangereux?

L'intelligence Artificielle est déjà dans une certaine mesure permet de déterminer votre avenir. Lorsque vous cherchez quelque chose dans le moteur de recherche, utilisez le service comme Netflix ou de la banque évalue votre aptitude à l'hypothèque. Mais si l'intelligence artificielle devrez déterminer, coupables ou non, dans la cour? Curieusement, dans certains pays, il est déjà possible de se produire. Récemment américain de haut le juge John Roberts a demandé s'il peut présenter un jour, quand les «machines intelligentes, ia, sera d'aider à trouver des indices ou même dans des décisions judiciaires». Il a répondu: «Ce jour est déjà arrivé, et il permet essentiellement aux autorités judiciaires dans la production des œuvres.»

Peut-être, Roberts avait à l'esprit la récente affaire de l'Erika Лумиса, qui a été condamné à six ans de prison, sur la recommandation de secret pour les logiciels propriétaires de la société privée. Loomis, qui a déjà eu des antécédents criminels et a été condamné pour ce, qui se sont échappés de la police угнанной voiture, maintenant, affirme que son droit à une procédure a été violée, parce que ni lui, ni aucun de ses représentants n'ont pas pu examiner ou de contester l'algorithme de recommandation.

Le Rapport a été préparé par un programme de Compas, qui est vendu Notrpointe tribunaux. Le programme incarne une nouvelle tendance dans la recherche de l'IA: il permet aux juges de prendre le «meilleur» (ou au moins axée sur les données) la décision de la cour.

Bien que les détails de l'affaire Лумиса restent fermées, ce ne sera certainement contient les diagrammes et les nombres gouvernent la vie, le comportement et le risque de rechute Лумиса. Parmi eux, l'âge, la race, l'identité de genre, les habitudes, historique de navigation et de mesure du crâne. Plus précisément, personne ne le sait.

On Sait que le procureur de l'affaire a déclaré au juge que Loomis a un risque élevé de récidive, la violence, la procédure préalable au procès». C'est standard, lorsque l'affaire concerne la condamnation. Le juge a accepté et a dit Лумису que «l'évaluation de Compas, il a été identifié comme la personne qui représente un risque élevé pour la société».

La cour Suprême du Wisconsin a condamné Лумиса, ajoutant que le rapport Compas a apporté de précieuses informations dans sa décision, mais a noté que, sans lui, il a fait la même phrase. Vérifier à coup sûr, bien sûr, ne fonctionnera pas. Quelles pourraient être les biais cognitifs, lorsque participe le tout-puissant «un système intelligent comme le Compas, qui conseille les juges, quoi faire?

l'Inconnu d'utilisation

Soyons francs, il n'y a rien «d'illégal», ce qui a fait le tribunal du Wisconsin — c'est juste un exemple. D'autres tribunaux peuvent et vont faire la même chose.

Malheureusement, nous ne savons pas dans quelle mesure les IA et les autres algorithmes de la peine. Il y a une opinion que certains tribunaux «testent» le système comme un Compas dans le clos de la recherche, mais ne peuvent faire valoir leur partenariat. Il y a aussi d'avis que plusieurs start-ups de l'IA développent ces systèmes intelligents.

Cependant, l'utilisation de l'IA dans la législation ne commence et ne se termine pas par la fixation de la peine, elle commence une enquête. Dans le royaume-Uni a développé un système VALCRI, qui effectue la main-d'œuvre des analyses en quelques secondes et se faufile à travers des tonnes de données comme des textes, des rapports de police et des documents pour mettre en évidence les choses qui peuvent nécessiter un complément d'enquête.

La Police de West Midlands au royaume-Uni , en utilisant des données anonymes, contenant plus de 6,5 millions d'entrées. Semblable épreuve de la police d'Anvers en Belgique. Cependant, dans le passé, les projets d'IA et d'un apprentissage en profondeur, insrant les ensembles de données ont été en difficulté.

les Avantages pour les rares

Les Technologies ont fourni de nombreux dispositifs salles du tribunal, de copieurs à l'extraction de l'ADN à partir des empreintes digitales et des techniques de surveillance. Mais cela ne signifie pas que toute la technologie est — cette amélioration.

Bien que l'utilisation de l'IA dans les enquêtes et les condamnations peut éventuellement vous faire économiser du temps et de l'argent, il créait des problèmes aigus. Dans le rapport de Compas de ProPublica a été clairement dit que les noirs le programme de l'erreur de croire plus enclins à рецидивизму répondeurs, que les blancs. Même le système le plus complexe de l'IA peuvent hériter de la race et les préjugés de ceux qui les crée.

De Plus, quel est le sens de déléguer la prise de décision (au moins partiellement) sur les questions qui sont uniques pour les gens de l'algorithme? Aux états-UNIS, il existe une certaine difficulté, lorsque la cour d'assises juge de ses pairs. Les normes dans les lois n'ont jamais été une référence, parce que ces tribunaux jurés sont considérés comme les plus démocratiques et plus efficaces les systèmes de condamnation. Nous commettons des erreurs, mais avec le temps accumulons des connaissances sur la façon de leur ne pas commettre, mettant à jour le système.

Compas et comme elle sont de la «boîte noire» dans le système juridique. Tel ne devrait pas être. Les systèmes juridiques dépendent de la continuité, de la transparence de l'information et de la capacité d'examen. La société ne veut pas de l'apparition d'un système qui encourage la course avec la création d'une start-up de l'IA, qui font rapide, bon marché et des solutions exclusives. La hâte fait l'IA sera terrible.

Mise à jour de la version Compas open source serait une amélioration. Mais d'abord besoin d'élever les normes du système de justice, avant de commencer à tirer la responsabilité en faveur de l'algorithme.