Jak to AI podejmuje decyzje? Naukowcy przestali to rozumieć
Source:
Wystające na konferencji Neural Information Processing Systems specjaliści w dziedzinie sztucznej inteligencji stwierdził, że przestali rozumieć zasadę podejmowania decyzji, którym kieruje SI, — donosi Quartz. Zdaniem ekspertów, przyjmować za pewnik działania AI bez zrozumienia jego logiki — dość lekko, ponieważ, aby ludzie przyjęli modelu uczenia maszynowego, muszą wiedzieć, czym kieruje SI, zastanawiając się, jak należy postąpić w konkretnej sytuacji.
Często decyzje podjęte AI, są tendencyjne, ponadto jego asocjacyjne «myślenie» też często nie jest tak idealny, w wyniku czego AI prowadzi błędy o nieprawidłowym analogii. Takie błędy mogą być kosztowne, jeśli AI będzie zarządzać złożonymi projektami, takimi na przykład, jak lot na Marsa — w tym przypadku zły czyn sztucznej inteligencji może nie tylko zniszczyć drogiego sprzętu, ale i pociągnąć za sobą śmierć ludzi. Dlatego, przed tym, jak pozwolić AI samodzielnie podejmować ważne decyzje, trzeba najpierw poznać zasady, którymi kieruje, — mówi Złomka Рагху, specjalista SI z Google.
Na konferencji przedstawiła raport, w którym opisała proces śledzenia działań poszczególnych części неросети. Отсматривая je po kawałku, można zrozumieć logikę AI, a następnie, w razie czego jej i подкоректировать. Analizując miliony operacji, była w stanie zidentyfikować poszczególne искуссственные «neurony», które koncentrowały się na błędnych wyobrażeniach, a następnie wyłączyć je, czyniąc AI bardziej zgodne i prawidłowe.
To coś wygląda na to, jak nauczyciel podaje jakiś materiał, a następnie prosi uczniów opowiedzieć własnymi słowami, co to on sobie sprawę z wykładu, — mówi Kiri Wagstaff AI-ekspertów z NASA.
Sądząc po wynikach tego badania, tak aby zrozumieć działania искуссственного интелеекта nie jest takie trudne. Najważniejsze — rozwiązać problem, zanim będzie za późno.
Bardziej:
Czy melatonina może pomóc w leczeniu koronawirusa?
Niektórzy lekarze uważają, że hormon snu pomaga w koronawirusie Wydaje się, że na liście potencjalnych metod leczenia COVID-19, które naukowcy zaproponowali na kilka miesięcy pandemii, innego uzupełnienia: melatoniny. Lekarz w Teksasie mówi, że już l...
W jakich krajach mieszkają najbardziej aktywni ludzie?
W jakich krajach ludzie więcej chodzą i uprawiają sport? Przekonajmy się. Aktywność fizyczna, wraz z prawidłowym odżywianiem, jest uważana za jeden z głównych czynników zdrowego stylu życia. Liczne badania naukowe wykazały, że regularne ćwiczenia i c...
Co to jest "hormon miłości", a kto go brakuje?
Oksytocyna - hormon miłości Organizm ludzki wytwarza ogromną różnorodność hormonów, z których każdy wykonuje swoje zadanie. Na przykład, wiele znanych endorfin przynieść ludziom poczucie radości, i nadmiar kortyzolu sygnalizuje stresujący stan osoby....
Nowości
Sztuczna inteligencja i Geoffrey Hinton: ojciec "głębokiego uczenia się"
Sztuczna inteligencja. Ile się o nim mówi, a przecież możemy nawet mówić jeszcze dobrze nie zaczęli. Prawie wszystko, co można usłyszeć o postępie sztucznej inteligencji, opiera się na przełomie, który trzydzieści lat. Utrzymanie ...
Chińskie roboty-naukowcy polecą na Księżyc zamiast ludzi
Wszystkie prace badań Księżyca będą odbywać się w trybie automatycznym, — China Daily", powołując się na dostarczone przez wysokiej rangi urzędnika CHRL informacji. Program badania Księżyca, w tym lądowanie луноходов i prace...
DARPA inwestuje 100 milionów dolarów w rozwój genetyczny broni
Jak informuje gazeta "the Guardian", Zarządzanie obiecujących projektów badawczych w USA (DARPA) przystąpiło do opracowania broni na podstawie inżynierii genetycznej. Do pracy nad projektem urząd przeznaczył 100 milionów dolarów. ...
Bakterie mogli przekształcić w nano
Нанороботы może bardzo się przydać do różnych rzeczy: za ich pomocą można było przeprowadzać operacje, zwiedzić niedostępne wcześniej miejsca, przeprowadzać diagnostykę organizmu i dostarczać leki w określone miejsca ciała ludzkie...
Naukowcy dodali dwie nowe litery w kod genetyczny
Jak wiadomo, aby zakodować ogromna ilość informacji w kodzie genetycznym, używany tylko 4 nukleinowych kwasy: adenina, guanina, tymina i cytozyna. W kodzie genetycznym są one oznaczone odpowiednimi literami — A, G, T i C. w ...
Choroby będą identyfikować, tylko skanowania siatkówki
Okresowa diagnostyka i badania profilaktyczne pozwalają wykryć wiele chorób na wczesnym etapie, ale niektóre stany mogą być diagnozowane dopiero wtedy, gdy choroba jest już dość długo. Ponadto, wiele жизнеугрожающие patologii nie ...
Powstała pierwsza syntetyczny bakteria z imitacji DNA
Całe życie biologiczne na Ziemi opiera się na czterech nukleinowych (azotowych) podłożach DNA: A, T, C i G (adenina, cytozyna, tymina i guanina). Ale co będzie, jeśli człowiekowi uda się stworzyć nowe sztuczne nukleinowych podstaw...
Astronomowie odkryli 72 nowe galaktyki
Dzięki zastosowaniu nowego instrumentu naukowego MUSE (Multi Unit Spectroscopic Explorer), zainstalowanej na Bardzo duży teleskop (VLT) Europejskiego obserwatorium południowego w Chile, astronomowie mogli odkryć 72 nowe galaktyki....
Ziemne robaki są w stanie żyć i rozmnażać się w marsjańskim gruncie
Bardzo ciekawy eksperyment przeprowadzili pracownicy w Holandii. Oni zażądali od amerykańskiej agencji kosmicznej NASA kopię , odtworzone na podstawie danych uzyskanych w trakcie kilku marsjańskich misji, a następnie umieścili w t...
Astronomowie odkryli egzoplaneta z pozycjonerami okresem 27 000 lat
Każda planeta naszego układu Słonecznego ma znacznie różni się od pozostałych pozycjonerami okres obrotu wokół Słońca. Na przykład, jeśli jeden obrót Ziemi wokół gwiazdy trwa 365,25 dnia, to u tego samego Marsa to zajmuje prawie d...
Sztuczna inteligencja będzie zanurzyć się w świat cząsteczek w poszukiwaniu niesamowitych leków
w środku Ciemnej nocy, z dala od miejskiego światła, gwiazdy Drogi Mlecznej wydają się być niezliczone. Ale z dowolnego miejsca невооруженному oka widać nie więcej niż 4500 gwiazdek. W naszej galaktyce jest ich 100-400 miliardów g...
Naukowcy odkryli, jak różne rodzaje alkoholu wpływają na emocje
nie jest tajemnicą, że alkohol jest bezpośrednio związany z stanem emocjonalnym człowieka. Komu to unosi się nastrój, a kogoś, wręcz przeciwnie, dołuje. Kogoś alkohol wyzwalające, a kogo-to sprawia, że bardziej agresywny i задирис...
Jak zwiększyć możliwości mózgu?
Wiadomo, że w miarę starzenia się wszystkie rezerwy naszego organizmu są na wyczerpaniu, a narządy i tkanki zaczynają stopniowo утрачивать swoją funkcję. Według licznych badań, po 40 latach objętość mózgu człowieka zmniejsza się ś...
Czy materia może opuścić horyzont zdarzeń podczas scalania czarnych dziur?
Jak tylko znajdziesz się w horyzont zdarzeń czarnej dziury, już nigdy go nie opuścisz. Nie ma prędkości, którą można było zdobyć, nawet prędkość światła, aby pozwoliła ci wyjść. Ale w ogólnej teorii względności przestrzeń zakrzywi...
U amiszów odkryli mutację, zwycięskie cukrzyca, a nawet starzenie się
Амиши, znane również jako аманиты, — to wspólnota religijna, mieszkająca w kilku stanach USA i w Kanadzie. Амиши charakteryzują się prostotą życia, ubrania, niechęć do podejmowania większą część nowoczesnych technologii i ud...
Pierwszy wybuch w Czarnobylu był jądrowej, uważają naukowcy
Wypadek w ELEKTROWNI jądrowej w Czarnobylu, co wydarzyło się 26 kwietnia 1986 roku, stał się jednym z najbardziej przerażających w historii ludzkości. Wcześniej uważano, że wybuch w czwartym bloku energetycznym doszło dlatego, że ...
W Nowej Zelandii zaproponowali walczyć ze zwierzętami-szkodników za pomocą CRISPR
Technologia genetycznego edycji CRISPR znajduje coraz więcej różnych zastosowań. W Nowej Zelandii, na przykład, postanowił z jej pomocą pozbyć się gryzoni i innych szkodników. Myszy, поссумы, szczury i inne gryzonie powodują Nowej...
W Chinach chcą zbudować prom kosmiczny z silnikiem atomowym
W nowym raporcie, opublikowanym Chińskiej korporacji przemysłu lotniczego nauki i techniki (CASC), dedykowanego programu kosmicznego Chin, zawiera wiele ambitnych zadań, które Firma stawia przed sobą na najbliższe 20 lat. O niektó...
Przewidzieć, jak pójdzie ewolucja ludzi, nie można
Wszyscy wiemy, jak wyglądały neandertalczycy: wystające łuki brwiowe, gruby nos, wydłużona czaszka, potężna struktura kości i, prawdopodobnie, rude włosy i piegowate skóra. Być może krzywo посматриваете na rude, kiedy spotkać w me...
Naukowcy odkryli kolejną obiecującą земплеподобную planetę
Zaledwie 11 lat świetlnych od układu Słonecznego astronomowie odkryli nową землеподобную planetę z klimatem, który rzekomo może podchodzić do życia. Należy zauważyć, że po Проксимы b to druga najbliższa nam экзопланета, z taką cec...
Uwaga (0)
Ten artykuł nie ma komentarzy, bądź pierwszy!