Polecamy Recenzje Przed premierą Publicystyka Warto zagrać Artykuły PREMIUM

Publicystyka

Publicystyka 14 września 2020, 14:55

Bezmyślny buntownik. Czy bunt maszyn jest możliwy?

Spis treści

Bezmyślny buntownik

Rozważany dotąd scenariusz zakłada, że SI pomyśli – samo to już jest fantastyką – iż nie chce wykonywać instrukcji napisanych przez człowieka. Bunt może wyglądać jednak zupełnie inaczej. Może się okazać, że całkiem bezduszny algorytm, mający tyle samo świadomości co komputer, na którym piszę te słowa, źle albo zbyt dosłownie zinterpretuje instrukcje i stanie się zagrożeniem.

Komputery zaczęły się uczyć, ale to nie działa tak jak nauka człowieka. - Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie - dokument - 2020-09-14
Komputery zaczęły się uczyć, ale to nie działa tak jak nauka człowieka.

Współczesna SI, oparta na technologii uczenia maszynowego, może sama poszukiwać rozwiązań konkretnego problemu.

Program komputerowy może implementować po prostu konkretny algorytm rozwiązujący problem. Jeśli taki algorytm jest znany, jest to zwykle najlepsza i najszybsza droga dotarcia do celu. Ale może też implementować algorytm szukający algorytmu rozwiązującego problem, bazując na danych historycznych. Innymi słowy – program szuka zależności, które pozwoliły w przeszłości rozwiązać dany problem, próbuje je zgeneralizować i na tej podstawie uczy się odpowiednio przetwarzać przyszłe dane. Tego typu algorytmy nazywany uczeniem maszynowym nadzorowanym.

Piotr Biczyk, QED Software

Teoretycznie więc może się okazać, że program uzna, iż jakaś forma szkodzenia ludziom będzie najlepszym możliwym sposobem na realizację powierzonego mu przez ludzi zadania. Wyobraźmy sobie sytuację rodem z powieści science fiction. Za 20 lat zlecimy sieci komputerowej znalezienie rozwiązania problemu nadmiernej emisji gazów cieplarnianych. Program przeanalizuje dane z poprzednich kilku dekad i zauważy, że spadek emisji był powiązany z epidemią koronawirusa. Teoretycznie mógłby wtedy uznać, że to właśnie jest optymalne rozwiązanie.

Oczywiście do niczego nie dojdzie, jeśli zachowamy zasadę „man in the loop”, o której wspominał dr Czulda. Gdyby tak było, komputer jedynie zasugerowałby człowiekowi stworzenie nowego wirusa i zarażenie nim ludzkości, a operator urządzenia wybuchnąłby śmiechem, a potem zmodyfikował algorytm w taki sposób, by ten, szukając rozwiązania, zwracał uwagę także na liczbę potencjalnych ofiar w ludziach.

Z drugiej strony wojskowe systemy stają się coraz bardziej złożone. Widać to chociażby w tym, jak wiele danych obecnie wymieniają pomiędzy sobą poszczególne elementy wojskowych systemów uzbrojenia.

Zostało jeszcze 65% zawartości tej strony, której nie widzisz w tej chwili ...

... pozostała treść tej strony oraz tysiące innych ciekawych materiałów dostępne są w całości dla posiadaczy Abonamentu Premium

Abonament dla Ciebie

Marcin Strzyżewski

Marcin Strzyżewski

W GRYOnline.pl zaczynał w dziale publicystyki, później był kierownikiem działu technologii, co obejmowało zarówno newsy oraz publicystykę, jak i kanał tvtech. Wcześniej pracował w wielu miejscach, m.in. w redakcji portalu Onet. Z wykształcenia rusycysta. Od lat planuje, żeby wrócić do nurkowania, ale na razie jest zajęty głównie psem, królikiem i kanałem youtube’owym, na którym opowiada o krajach byłego ZSRR.

więcej

TWOIM ZDANIEM

Boisz się, że sztuczna inteligencja w przyszłości pozbawi cię pracy?

Tak
32,1%
Nie
67,9%
Zobacz inne ankiety
Sztuczna inteligencja może uratować gry od nudnego kanonu piękna
Sztuczna inteligencja może uratować gry od nudnego kanonu piękna

Modny aktualnie temat dotyczący SI wywołuje tyle zainteresowania, ile lęku – przed tym, czy sztuczna inteligencja nie zastąpi człowieka na stałe albo nie zaleje nas grami pozbawionymi serca. Tymczasem właśnie z nią może się wiązać nadzieja na lepsze.

AI wymusi na polskiej edukacji skok w przyszłość. Rozmowa z Krzysztofem Majem
AI wymusi na polskiej edukacji skok w przyszłość. Rozmowa z Krzysztofem Majem

Pojawienie się ChatGPT wywołało panikę wśród nauczycieli. Krzysztof Maj, wykładowca na AGH oraz popularyzator wiedzy o edukacji, twierdzi jednak, że AI nie będzie zagładą dla szkół – chyba że zaparcie będą opierać się zmianom.

Gry, w których możesz obalić władzę. A przynajmniej próbować
Gry, w których możesz obalić władzę. A przynajmniej próbować

Rewolucja i zmiana władzy siłą to wydarzenie, które powtarza się w historii ludzkości od pokoleń. Ludziom mieszkającym na terenach dawnego obozu socjalistycznego nie trzeba tłumaczyć, jak to działa. A jak to wygląda w grach?