당신은'블랙박스'인공지능,너무 늦을 때까지
Source:몇 년 동안에서 1980 년대의 학생들의 의과 대학의 세인트 조지의 병원에서 런던을 선택한 첨단 기술을 사용하는 방법입니다. 컴퓨터 프로그램의 첫 번째 중 하나,그것의 종류를 찾을 통해 다시 시작에서 선택,모두 응용 프로그램의 주위에 2,000 명의 후보자. 프로그램 분석 기록의 영수증,의 특성을 연구함으로써 성공적인 지원자 및 조정하고,때까지 그것의 솔루션과 일치하지 않으 의견의 선정위원회니다.
그러나,이 프로그램은 것을 배웠을 찾아보다 더 좋은 성적 및 학술적 업적입니다. 네 년 후의 구현은 두 가지 의사는 병원에서 발견되는 프로그램으로 일반적으로 거부하는 여자의 후보 및 개인과 비유럽 이름에 관계없이,자신의 학문을 기울이고 있습니다. 의사는 60 신청자는 매년,그냥을 거부하 작업을 인터뷰하기 때문에 그들의 성 또는 레이스입니다. 프로그램이 포함되어 있는 성별하고 인종적 편견에 사용된 데이터에 대한 교육—사실,배웠다는 의사들과 외국인들은 적합하지 않다고 의사합니다.
삼십 년 후에 우리가 직면 유사한 문제이지만,내부의 편견은 이제 널리 분포하고 결정을 내리는 심지어 더 높은 말뚝니다. 인공지능 알고리즘에 기반한 기계 학습은 모든 곳에서 사용으로 시작,정부 기관 의료,결정 및 예측을 기록 데이터를 기반으로합니다. 공부하는 데이터의 패턴에,그들은 또한 흡수하고 편견에서 그들입니다. 구글은,예를 들어,보여주는 광고를 더불된 일하는 여성이 남성보다 중-일 배송,아마존을 통과 Negro 분기,디지털 카메라는 어려운 얼굴을 인식하지 않은 백색입니다.
이해하기 어려운지는 알고리즘은 편견 또는 박람회,그리고 고려하더라도 컴퓨터 전문가입니다. 이유 중 하나는의 세부사항은 새로운 알고리즘은 종종 고려하여 특허가 정보를 신중하게 지키고 있는 그들의 소유자입니다. 에는 더 복잡한 경우에,알고리즘은 그렇게 복잡도 제작자는지 정확히 알고 그들이 어떻게 작동합니다. 이 문제입니다 그래서 소위'블랙박스'AI—우리를 볼 수 없으면 내부의 알고리즘과 방법을 이해하는 결정합니다. 만약 당신이 그것을 떠나 잠겨 있고,우리 사회가 될 수 있다 심각하게 영향을 받:디지털 환경에서 구현된 역사적인 차별 우리는 몇 년 동안 싸웠다에서 노예와 시민의 자유하는 여성에 대한 차별합니다.
이러한 우려 표명하는 작은 공동체의 컴퓨터 과학,이전에는 지금 오십니다. 지난 년 동안 이 지역에 거기에 아주 많이 출판물에 대한의 투명도 인공지능합니다. 이와 함께 성장하는 대한 인식과에 대한 책임의식을 지녀야 한다. "당신은 어떤 것들을 우리는 구축하지 않습니까?", 요청 케이트 크로퍼드,researcher at Microsoft 와의 공동 설립자 AI 지금 Insitute 뉴욕에 있습니다.
"Machine learning 마지막으로 주목을 받게 되었습니다. 이제 우리가 사용하려고 그것을 위해 수백명의 다른 작업에서,현실 세계"고 말했다 풍부한 카루 아나 수석 연구원,Microsoft. "그것은 사람들이 배포할 수 있는 것은 악의적인 알고리즘을 것입니다 크게 영향을 미치는 사회에서는 장기적이다. 지금,그것은 보인다,그녀는 갑자기 이해하는 것이 중요한 장 우리 지역에서"니다.
무단
우리는 알고리즘을 사용하지만,문제의 블랙박스는 전례 없다. 첫 번째 알고리즘을 간단하고 투명한다. 그들의 많은 여전히 우리가 사용하여 예를 들어,평가 신용도니다. 각각의 새로운 사용을 제공합 규정입니다.
"사람들이 사용하는 알고리즘을 평가하고 신용도 및 수십 년 동안,하지만 이러한 영역에서 아주 강한 결제는 성에서 사용하여 병렬로 예측하는 알고리즘,"카루 아나 말했다. 규정을 확인하는 예측하는 알고리즘 설명을 제공하의 모든 지점이다:당신을 거부하기 때문에 당신은 큰 신용,또 너무 낮은 소득합니다.
다른 지역에서,같은 법적,광고 있의 사용을 금지하는 규칙을 의도적으로 neproschityvaemym 알고리즘이 있습니다. 당신은 알 수 없습니다 왜 당신은 거부하고있는 대부 또는 일이 없기 때문에 하나는 강의 소유자 알고리즘을 작동 방법에 대해 설명합니다. "그러나 우리가 알고 있기 때문에 알고리즘에 대한 훈련을하고 있는 실제 데이터,그들은 해야 합니다 바이어스 될 때문에—실제 세계 바이어스"라 카루 아나니다.
예를 들어 다음과 같은 언어 중의 하나는 가장 명백한 소스로의 편견입니다. 그리고 훈련에 쓰는 텍스트,그들은 그 형성부 사이에 연결 말이 함께 나타납니다. 예를 들어,그들은"남자를 위한 컴퓨터 프로그래머는—과 같은 여자 주부이다." 이 알고리즘을 지시할 것이 좋은를 찾을 요약하여 작업으로 프로그래머,가능성이 가장 높은,그는 남자를 선택하는 후보자.
이러한 문제를 매우 쉽게 수정하지만,많은 기업들은 단순히지 않습니다. 대신,그들은 숨길 것이 이러한 불일치 뒤에 쉴드 보호되는 정보입니다. 액세스하지 않고 내용의 알고리즘,전문가들은 많은 경우에는 것을 확인할 수 없는 편견 또는 않습니다.
으로 이러한 알고리즘 비밀과 저쪽에 남아 있는 관할권의 규제 기관,시민은 거의 불가능고소하의 제작자 알고리즘이 있습니다. 2016 년에,대법원은 위스콘신의 요청을 거부하 내부의 동작을 정확합니다. 남자,에릭 루미스,었고 이야기에 감옥에 부분적으로 때문에 정확한 고려"그에게 위험이 높은"니다. 루미는 것을 말한 그의 권리를 인정을 위반하여 종속성을 심판의 불투명 알고리즘이 있습니다. 최종 응용 프로그램에 대한 절차에서의 대법원 미국에서 실패 June2017.
그러나 비밀 회사는 사용하지 않을 것이 그들의 자유를 제한 시간이 있습니다. 월 유럽연합 법을 채택해야 하는 회사의 기간을 정하여 소명할 기회를 부여하여 관심이 고객에게 어떻게 작동하는 그들의 알고리즘과 방법을 결정합니다. 우리는 이러한 법률에서 개발합니다.
법의학 black box
는지 여부에 관계없이 규제에 관련된 이 모든 문화적 변화에서 방법을 개발하고 배포하는 알고리즘을 줄일 수 있습의 보급을 치우치 알고리즘이 있습니다. 많은 기업과 프로그래머들은 만들기 위해 최선을 다하고 그들의 알고리즘을 투명하고 이해할 수 있고,일부는 희망이 보이지 않는 회사는,잃을 것이 좋은 평판의 눈에서 공개합니다.
의 성장을 컴퓨팅 능력은 우리를 만드는 알고리즘은 모두 정확하고 이해할 수 있는 이 기술의 도전,개발자들을 극복 할 수 있는 역사적으로습니다. 최근의 연구 결과를 만들 수 이해할 수 있는 예측하는 모델의 재발 범죄 주제뿐만 아니라 정확히 얼마나 블랙 박스 법의학 같은 정확합니다.
"모든 것이 준비되어 있는 모델을 만들지 않고,"신시아 루딘,부교수의 컴퓨터 공학과 전기공학과 듀크 대학교도 있습니다. "그러나 그렇게 쉬운 일이 아닙니다 그리는 사람들의 관심을 이동합니다. 는 경우에는 정부 기관은 중지됩니다 지불하는 모델은 블랙 박스,그것이 도움이 될 것입니다. 면 심판을 사용하지 않는 모델의 블랙박스에 대한 판결,그것은 또한 도움이 됩니다."
다른 사람 제공하기 위해 노력하는 방법의 유효성을 확인 알고리즘을 만들어,시스템의 견제와 균형을 하기 전에는 알고리즘이 될 것으로 출시,세계로 테스트의 각각의 새로운 약물니다.
"모델은 지금은 만들어 배포되고 너무 빠르다. 지 않을 수행된 적절한 검사를 출시하기 전에 알고리즘에서는 빛,"says Sarah 황갈색의 코넬 대학교도 있습니다.
이상적으로 개발자가 해고 알려진 바이어스—예를 들어,성별,나이,인종,그리고 실행해 내부 시뮬레이션을 테스트하는 알고리즘에는 다른 문제입니다.
한편에 도달하기 전에,모든 지점에서 알고리즘이 될 것입니다 철저하기 전에 테스트를 해제,수있는 능력을 결정하는 것입니다 그들의 고통에서 편견입니다.
에서 자신의 최근 작품,황갈색,카루 아나,그리고 자신의 동료들이 설명하는 새로운 방법을 이해하는 무슨 일이 일어날 수 있는 아래의 후드 검 상자 알고리즘이 있습니다. 과학자들이 만들어하는 모델을 시뮬레이션 알고리즘을 블랙박스의 학습을 평가하고 위험의 재범에 따른 정확합니다. 그들은 또한 만들어진 또 다른 모델을 훈련한 실제 데이터는 여러 예측 상습니다. 두 모델의 비교가 허용한 과학자들의 정확도를 평가 계획한 포인트지 않고,분석하는 알고리즘이 있습니다. 차이에서 결과의 두 가지 모델을 보여줄 수 있는 변수와 같은 인종이나,나이 더 중요할 수 있습에서 특정 모델이다. 그들의 결과를 보여주는 정확한 편견에 대한 검은 사람들입니다.
잘 설계된 알고리즘을 제거할 수 있습통 편견의 분야에서 형사사법,치안을 유지하고 많은 다른 지역 사회의입니다.
때 사람이 불멸을 통해 디지털 기술입니다. 나는 그것을 믿지 않는다. 그리고 당신은? 2016 년,막내 딸 Jang JI-sen 이 질병 사망과 관련된 혈액입니다. 그러나 월,어머니가 재결합에서 그녀의 딸과 함께 가상 현실이다. 전문가는 모델의 전자 버전,그녀를 사용하여 모션 캡처를 위한 기술 다큐멘터리. 를 입고 가상 현실 헤드셋과 햅틱 장갑,장 걸을 수 있었다,이진이 디지털 버전의 자신의 딸이 아니다. 절망을 이해하는 어머니,그러나 현실에서...
는데,최근에 실시하는 작은 조 친구들과 지인들에 대해 어떻게 그들이 평가할 때 효과적인 작업을 원격으로. 거의 모든 사람들이 내가 알—작업을 지금 함께 가정에서 컴퓨터 및 전화입니다. 고,그것을 알고 보니,사람들도 그 이전에 갔다의 도시 및 국가 및 협상으로 클라이언트는—오늘은 성공적으로 가정에서 작업과 동등한 효과(물론,이것은 가능한 모든 영역에서). 또 다른 흥미로운 관찰했다는 더 많은 이제 작동합니다. 에도를 들어 내...
파라메트릭 건축:수 있는 인공지능을 디자인하는 도시는?
생각할 때 미래에 관하여,어떤 사진을 발생 당신의 눈 앞에? 의 연인으로 복고 미래주–장르 기반으로 표현의 과거에 사람들이 미래에 대해 항상 상상 도시의 미래 건축과 같은 건축에서 잡지 표지 1950-ies. 나의 시각을 변경할 때 나는 배운 것에 대해 새로운 건축 스타일–파라메트릭 또는 알고리즘 건축의 형태로 존재는 아방가르드 디자인다. 시간 이상의 컴퓨터 기술의 개발은 크게 영향을 받는 스타일:사실,모든 건물에서 파라메트릭 스타일로 디자인된...
Windows10 영 시스템은 많은 다른 기능과 기능을 이해하고,때로는 매우 어렵습니다. 그러나 사용자의 이 OS 말하는 하나의 그것의 주요 단점은 강의 다운로드한 모든 업데이트 및 그 이후 컴퓨터에 설치합니다. 도움이 되지 않도 수동 설정합니다. 만약 이 기능이 비활성화,다음 시간 당신이 컴퓨터를 재부팅하고 그것을 다시 켜지고,업데이트를 계속하여 부팅을 내장 드라이브 및 그런 다음 자동으로 설치됩니다. 이것...
NASA 는 자금의 창조 블록체인 서비스 항공 우주를 위한 연구
전문가 Abrenskogo 대학교의 미국을 탐험의 가능성을 만들기 안전 서비스는 계산의 궤도 위성할 수 있도록 충돌을 피하기 위해 공간으로 파편입니다. 에 대한 추가 작업이 지역에,NASA 는 제공하는 개발자에게 부여한은$330 백만입니다. 대학원,가 이끄는 팀에 의해 교수는 유전자 리투아니아 것입을 구축하기 위해 자신의 데이터 센터에 기록합니다. 개발자는 자신들의 서비스는 데 도움이 될 것입 인류가 더욱...
정보-분석 edition 블룸버그의 인용,성명에 의해 유럽위원회는 보고서를 유럽 연합 계획을 지출하는€1 억 잡기 위해 중국,미국,일본의 개발에 슈퍼컴퓨터입니다. 로 표시하여 원본 결과,Brekzita UK 뒤에 있을 수 있습니다 이 프로젝트입니다. 모든 것이 잘되면,2020 년까지,유럽을 얻을 수 있는 두 개의 슈퍼컴퓨터 속도는 백조 계산당 두 번째,그리고 적어도 두 가지지만,적은 강력한 컴퓨터의 속도로 ...
잊지에 대해 현대적이 겸손한 분야에서 업적을의 인공 지능과 같은 자기 자동차 운전을 할 수 있습니다. 실제로 모든 사람을 기다리고 다른 무언가:는 기계 자신의 존재를 인식하고 환경을 처리할 수 있는 엄청난 양의 데이터를 실시간으로습니다. 이 가능할 것 보내에서는 위험한 임무는 공간에서는 전장에서. 그녀는 요리,청소,세탁,철를 수행하기 위해,사람들은 심지어는 회사에 없을 때 다른 사람들이 있습니다. 가장 진보...
계속 증가하는 속도로 발전의 분야에서 양자 컴퓨터의 허용 말을 우리에게 본격적인 양자 컴퓨터 것입니다 여전히 만들 수 있습니다. 그러나,프로그래밍을 위한 양자 컴퓨터가 필요하지만 자격이지만,또한 디자인이라는 도구를 개발 키트(개발 키트 개발 키트)니다. 따라서,Microsoft 기로 결정하는"물결"그리고 첫번째 버전의 장비의 소프트웨어 개발에 대한 양자 컴퓨터입니다. 개발 키트를 가지고 이름 Microsof...
색 거대한 Google 계속 작업으로 전환하는 재생 가능 에너지입니다. 회사 최근에 서명된 계약으로 세 가지 새로운 바람소 중 하나에 위치한 사우스다코타에서 두 번째 아이오와에서 하나 오클라호마니다. 따라서,전력 소비량은 구글의 청력에 도달했 3GW 니다. Google 에 투자하고 깨끗하고 재생 가능 에너지에 도달 us$3.5billion,색 거대한 가장 큰 기업 클라이언트에 관심이 이러한 서비스입니다. 기...
현지 언론인에서 발견된 모스크바,거대한 농장을 위한 마이닝
큰 광산 농장을 놀라게하지 않습니다 누군가에서 중국이나 유럽의 북쪽에,하는 동안 러시아에서 그들은 꽤 몇 가지—지금 계정 그것은 단지에 대해 세%의 전체 네트워크입니다. 그러나 거기에는 영웅«에서 우리의 팔레스타인»—그들에 대해,CNN 기자가 선택 작은 플롯. 러시아 센터의 광—그래서 라는 이 organization—에 위치한 전자 자동차 식물입니다...
바이러스 암호 해독을 공격하려고 러시아의 은행과 감염된 컴퓨터의의 숫자를 우크라이나 조직 및 러시아어,불 BadRabbit 니다. 회사의 전문가«그룹-IB»,분석,그것을 지적하는 새로운«착취 및#187;—처럼 아무것도 우수한 버전의 좋은 오래 된«Petit»격노를 계속할 계획입니다. 사이버 보안 전문가할 수 있었을 추적하는 도메인 이름,전파하기 시작했 바...
스마트 폰—compact,가볍고 슬림 장치를 수행할 수 있는 것""PC 니다. 그러나,많은 스마트폰 하나의 중요한 단점—에 위치하고 있는 그들의 슬림 경우 배터리 수 없는 오래 갈 충전없이 소형 배터리합니다. 이러한 단점을 극복하기 위해 수익을 2018 년 CES 장치에는 많은 공통점으로 가장 생산적인 스마트 폰의 오늘입니다. ,년 전에 먼저 사용자 들에 대한 개념"모바일 개인용 컴...
빠른 컴퓨터 기술의 발전이 있어보는 여행객들도 동반 성장의 생산력과 기능을 측면이다. 그것은 매우 빠르게가 오래된하지만,기술적으로 여전히 작동할 수 없습니다. 체의 오래된 Pc 의 추가 요금이 부과됩니다. 구글은 주로 알려진 인기있는 휴 안드로이드 OS,투자에 기술적인 접근할 수 있는 구형 컴퓨터에 남아 있는 매우 현대적인에 대한 사용합니다. Google,의 하나로 지도자들의 디지털 산업,"사용"버튼을 클릭...
한 달 전에는 ISS 에서 화물의 화물선 용 도착했 SpaceBourne 슈퍼컴퓨터를 공동으로 개발한 NASA Hewlett-Packard 니다. 그것에서 만들어졌는 방법을 배우기 위해 이러한 첨단 장비를 작동 공간에서 오랜드 오버로드 가능한 소프트웨어는 실패입니다. 개발자의 기대에 대한 최고의했다,하지만 그들은 심각한 문제는 사실에 대해 컴퓨터가 살아남을 수 있을 흔들-후 항공편 지구에서 프로그램입니다. 어...
과학자들은 위대한 희망을 사용하여 현상의 양자 중첩과 양자 얽힘에 대한 데이터를 처리하고 데이터를 전송합니다. 하지만 지금까지 아무도를 만들 수 있게 되었습 양자 메모리 칩니다. 직원의 캘리포니아 기술 연구소 첫 번째 관리를 만드 마이크로프로세서 저장할 수 있는 양자의 형태로 정보를 빛 qubits 니다. 전문가들은 믿고 이것은 매우 중요한 단계이기 때문에,이러한 칩을 수 있는 기술의 양자 컴퓨터 단계를 훨씬...
전통적인 코딩 기술에 대한 정보를 전송을 사용하여 바이너리 시스템입니다. 그러나,지금도 진화하는 방법의 양자 정보를 전송 또한 기반으로 시스템을 데이터는 두 개의 변수입니다. 비록 방법은 다차원 양자 coding«할 수 있는 더»니다. 고 그것을 이론적으로 가능한 네 가지 차원 코딩을 위해 첫번째로 오래 전부 전달된 일련의 테스트합니다. 새로운 개발할 수 있습 각각의 광양자를 나르는 네 개...
DARPA 을 구축 할 것입 모듈을 기반으로 컴퓨터에서"cabletow"
우리는 소위"chiplet"—얇은 실리콘 플레이트에는 어떤 방법으로 재해석의 개념을 전통적인 칩이다. 개발 엔지니어에 의해서 팔로 알토 리서치 센터(a division of Xerox)치프레될 수 있는 수천만과 수백 개에 적용으로 특별한 프린터를 개선하는 데 도움이 될 수 있습니다. 분명히,우리에게 군사 기관에 관심이 이 기술입니다. 새로운 프로젝트의 생성을 포함하는 모듈을 기반으로 컴퓨터에서 다른...
에 따르면 새로운 메시지,하나의 선도적인 컴퓨터 회사들이 세계에서 고려 스위칭 내 주로 기업을 위한 안드로이드 기기합니다. 그러나,이러한다는 것을 의미하지 않는 완전한 거부의 Windows 기술입니다. 그것은 않는 검색에 대한 최고의 치료를 가능하게 결합의 장점을 모두 플랫폼입니다. 엘리트 X3,아마도 최고의 장치를 실행하는 윈도우 10 휴대,HP,구매,는,그러나,거의 아무도는 바리새인들이었다. 그 이유는 ...
의해 개발되었 HP 고 NASA 슈퍼컴퓨터를 우주선 컴퓨터 운영체제에서는«Linux»가 제공하는 ISS 스페이스을 사용하여 로켓은 다음 주 월요일—에 따라...
AI NVIDIA 배웠을 그리는 3D 그래픽 인간적으로
SIGGRAPH(특별한 관심의 그룹에서는 그래픽과 인터랙티브 기술이—특별한 그룹 및 대화형 그래픽 기술),NVIDIA 증명하는 새로운 AI 을 만들 수 있는 세 가지 차원 그래픽 이미지합니다. 비교 인공적인 정보 및 실시간 3D 예술가,전문가 결론에 도달했는 프로그램에 대처하는 작업과 더 나쁘지 않는 사람들입니다. 즉 AI 할 수 있을 크게 단순화하는 사람들의 삶,예를 들어에서 묘사에서 캐릭터의 ...
에 따르면의 편집자 자연 저널의 유전학은 하버드 대학에서 관리를 차례로 대장균으로 일종의 생물학 컴퓨터입니다. 기준의 박테리아도 만들어 논리적인 프레임워크의 역할을 전기적 신호에 의해 수행되었 RNA molecules. 말하는 가치의 창조 생물학,컴퓨터 과학자들에 종사하는 꽤 오랜 시간이 있습니다. 이미 많이 만들의 컴퓨터에 기초한 DNA 니다. 또한,우리는 이미 성공적으로«조립»bio-컴...
여섯 예는 양자 컴퓨터는 우리에게 많은 도움이 될 것입니다
컴퓨터에 존재하지 않습니다. 그들은 문제를 해결,그리고 문제들을 해결하는 의해서만 결정된 하드웨어입니다. 그래픽 프로세서 프로세스 이미지 프로세서 인공지능 알고리즘을 제공합 AI,양자 컴퓨터하도록...무엇인가요? 전력을 동안의 양자 컴퓨터가 인상적이다는 것을 의미하지 않는 기존 소프트웨어 작동 억 배 빠릅니다. 오히려,양자 컴퓨터 또는 특정 유형 문제의 일부는 그들이 잘 결정하고,일부는 하지 않습니다. 아래...
과학자로서 러시아와 캐나다 발견했을 단순화하는 방법 건축 양자 컴퓨터의
양자 컴퓨터를 일으킬 수 있는 매우 복잡한 계산으로 인해 독특한 아키텍처,그러나,그럼에도 불구하고 사실은 그들이 미래에 매우 어려운 장치는 양자 컴퓨터까지 만들 수 있는 충분히 강력한 시스템입니다. 하지만 기사에 따르면 최근에 출판된 자연 저널에 그룹의 물리학자에서 러시아와 캐나다에서 만나는 첫 번째 실리콘 칩을 저장할 수 있습니다 다중 차원 qubits,그리고 그들을 조작합니다. 새로운 접근 방식을 간소화하...
(0)