Южнокорейскому instytut ogłosili bojkot za rozwój broni na bazie AI

Ponad 50 wiodących ekspertów w dziedzinie rozwoju sztucznej inteligencji poinformował o zamiarze bojkotu Koreański instytut zaawansowanych technologii (KAIST) – prestiżowy i wiodący szkoleniowo-badawczy uniwersytet Południowej Korei — za stworzenie laboratorium rozwoju broni z wykorzystaniem sztucznej inteligencji. O tym poinformował w liście otwartym.

Oburzenie ekspertów z zakresu AI powodowało również i podpisane KAIST umowa z zbrojowni przez Hanwha Systems, która, jak donoszą różne źródła, już zajmuje się rozwojem zaawansowanych rodzajów broni, w tym, między innymi, są bomby kasetowe, zabronione zgodnie z Konwencją ONZ w sprawie кассетным боеприпасам (korea Południowa tę konwencję nie podpisała).

"W czasie, gdy Organizacja Narodów Zjednoczonych prowadzi się dyskusja o tym, jak powstrzymać zagrożenie dla bezpieczeństwa międzynarodowego ze strony autonomicznych rodzajów broni, jest godne ubolewania jest fakt, że taki prestiżowy uniwersytet, jak KAIST, szuka sposobów, aby przyspieszyć wyścig zbrojeń przez nowe opracowania podobnych typów uzbrojenia", — piszą eksperci AI w swoim liście otwartym.

"Więc publicznie deklarujemy, że będziemy bojkotować wszystkie rodzaje współpracy z dowolnymi jednostkami KAIST, dopóki prezydent KAIST nie udziela zapewnień o tym, że centrum nie będzie zajmować się rozwojem samodzielnych rodzajów broni, których funkcjonowanie jest możliwe bez znacznego udziału człowieka".

KAIST ma do dyspozycji jedne z najlepszych na świecie mechaniczne i laboratoria naukowe: tutaj prowadzone są badania i rozwój różnych zaawansowanych technologii, zaczynając od płynnych baterii do aparatury medycznej.

Rozdział KAIST Sin Sen Чоль powiedział, że jest zasmucony decyzją o bojkocie, dodając, że instytut nie zamierza tworzyć robotów-zabójców.

"Jak akademickie instytucja, jesteśmy bardzo wdzięczni za prawa człowieka i standardy etyczne. KAIST nie zamierza prowadzić działalność badawczą, niezgodnych z zasadami godności ludzkiej, w tym i prowadzić rozwój autonomicznej broni, nie wymaga ludzkiej kontroli", — wypowiadał Sin Sen Чоль w swoim oficjalnym oświadczeniu na temat bojkotu.

Biorąc pod uwagę tak szybkie tempo rozwoju sprzętu i oprogramowania, wielu ekspertów obawia się, że prędzej czy później stworzymy coś, co będziemy w stanie kontrolować. Elon Musk, Steve Wozniak, почивший niedawno Stephen Hawking i wielu innych bardzo znanych postaci w dziedzinie technologii IT w swoim czasie wezwał rządy państw i ONZ nałożyć ograniczenia na rozwój systemów uzbrojenia, sterowanych przez AI.

Według wielu, jeśli dojdziemy do rakiet i bomb, którego funkcjonowanie będzie możliwe niezależnie od ludzkiej kontroli, to konsekwencje tego mogą być przerażające, szczególnie jeśli takie technologie trafią w niepowołane ręce.

"Tworzenie samodzielnego uzbrojenia doprowadzi do trzeciej rewolucji w sprawach wojskowych. Podobne technologie pozwolą prowadzić bardziej gwałtowne, niszczące i zakrojone na szeroką skalę konflikty zbrojne", — podkreślają autorzy listu otwartego.

"Te technologie mają potencjał przekształcenia się w broń terroru. Dyktatorzy i terroryści mogą użyć ich przeciwko niewinnych grup ludności, ignorując wszelkie etyczne aspekty. To istna puszka Pandory, zamknąć który, w przypadku jego otwarcia, będzie praktycznie niemożliwe".

Członkowie ONZ zamierzają przeprowadzić w przyszłym tygodniu spotkanie, na którym planuje się omówić kwestie związane z zakazem śmierci samodzielnego uzbrojenia zdolnego zabić bez udziału człowieka. Nawiasem mówiąc, to już nie pierwsze takie spotkanie, jednak uczestnicy dyskusji jeszcze nie doszli do żadnego porozumienia. Jednym z problemów, stojąca na drodze do podjęcia jakichś konkretnych rozwiązań, polega na tym, że niektóre kraje akurat nie przeszkadza, prowadzenia rozwoju takich technologii, ponieważ te mogą zwiększyć ich potencjał militarny. Przeszkodą stają się prywatne firmy, które aktywnie sprzeciwiają się kontroli ze strony rządów za rozwojem własnych modeli systemów sztucznej inteligencji.

Wydawało się, wielu zgadza się z tym, że roboty-zabójcy – to źle. Jednak podjąć żadnych konkretnych rozwiązań w odniesieniu do tego, co zrobić z ich rozwój, na razie nie działa. Całkiem możliwe, że opracowanie nowych systemów uzbrojenia, którym planuje się KAIST, sprawi, że więcej stron do wzięcia udziału w niezbędnym dyskusji problemy.

Wiele naukowcy wzywają do stworzenia zalecenie instrukcji regulujących zagadnienia projektowania i wdrażania AI-systemów. Jednak jest duże prawdopodobieństwo, że nawet w przypadku dodatku będzie bardzo trudno uważać, aby każda strona ich przestrzegać.

"Jesteśmy nieustannie koncentrować się na wyścigu zbrojeń, której nikt nie chce. Działania KAIST tylko przyspieszają ten wyścig zbrojeń. Nie możemy tolerować. Mam nadzieję, że ten bojkot zwiększy znaczenie w potrzeby dyskusji w tej sprawie w ONZ w poniedziałek", — wypowiadał się profesor sztucznej inteligencji australijskiego Uniwersytetu Nowej Południowej Walii Toby Walsh, również podpisał list.

"To jest niebo apel do społeczności, занимающемуся rozwojem technologii sztucznej inteligencji i robotyki — nie wspierać rozwój autonomicznych rodzajów broni. Inneinstytucje planujące otworzyć takie laboratorium, powinny zastanowić się dwa razy".