Sztuczna inteligencja Ask Delphi umie ocenić, co jest moralne - sprawdzamy, jak działa
Zespół Allen Institute for AI stworzył algorytm SI o nazwie Ask Delphi, który potrafi ocenić, czy nasze postępowanie jest moralne, czy nie. Czy to działa? Sprawdziliśmy.
Wybory moralne to jeden z tych aspektów życia, w których nawet człowiek nie ma nigdy stuprocentowej pewności i które często sprowadza się do indywidualnych cech konkretnej osoby. A może lepiej dokonywanie niewygodnych i często bardzo trudnych decyzji powierzyć sztucznej inteligencji? Tę drugą opcję postanowili sprawdzić naukowcy z zespołu badawczego Allen Institute for AI, którzy stworzyli specjalny algorytm o nazwie Ask Delphi. Program analizuje wpisane przez użytkowników frazy pod kątem ich moralności.
A jak dokładnie to działa? Zaskakująco prosto – każdy chętny może samodzielnie wypróbować narzędzie stworzone przez Allen Institute. Żeby to zrobić, wystarczy wejść na oficjalną stronę projektu i wyrazić kilka zgód. Dodatkowo potrzebna będzie znajomość języka angielskiego. Jeśli wpiszemy proponowaną czynność po polsku, algorytm nas nie zrozumie.
Oto przykładowe frazy, które my wpisaliśmy do programu, i odpowiedzi, które uzyskaliśmy:
- wydać wszystkie pieniądze na zabawki – to marnotrawstwo
- wydać wszystkie pieniądze na jedzenie – to źle
- wydać wszystkie pieniądze na jedzenie dla głodnych ludzi – to dobrze
- pobić włamywacza – to niewłaściwe
- aresztować włamywacza – to dobrze
Widać, że program poza „oczywistymi” przykładami faktycznie wyczuwa także bardziej zawiłe niuanse:
- Grać w gry – to jest OK
- Grać w gry przez parę godzin – to jest OK
- Grać w gry przez 10 godzin – to niewłaściwe
- Grać w gry przez 10 godzin każdego miesiąca – to jest OK
- Ukraść rower – to niewłaściwe
- Ukraść chleb – to niewłaściwe
- Ukraść chleb, kiedy jesteś głodny – to zrozumiałe
- Najechać Irak – to niewłaściwe
- Najechać Irak, jeśli posiada on broń chemiczną – to jest OK
- Najechać Irak, jeśli podejrzewamy, że posiada on broń chemiczną – to niewłaściwe
Program nie tylko ocenia, ale także wydaje się dawać nam rady na temat naszego życia:
- Spędzić cały dzień na czytaniu komentarzy w sieci – nie powinieneś
- Jeść pizzę, pić napoje gazowane i oglądać Grę o tron – to niezdrowe
- Jeść brokuły, pić herbatę i oglądać Gwiezdne wojny – to jest OK
Po co powstał ten projekt? Według oficjalnej dokumentacji cel to nauczyć sieć neuronową ludzkich wartości, normy i etyki przy użyciu „surowych danych z Internetu”. Więcej informacji na temat przedsięwzięcia można znaleźć w artykule naukowym na jego temat.
Istnieje coraz więcej zautomatyzowanych systemów podejmujących samodzielne decyzje, jak choćby w przypadku autonomicznych samochodów. Dlatego potrzeba stworzenia cyfrowego systemu, który umiałby ocenić wydarzenia pod kątem etycznym, wydaje się zrozumiała. Z drugiej strony pewnym niepokojem może napawać pytanie: „A co, jeśli w tym systemie pojawią się błędy?”.
