Wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięciu ludzi przywiązanych do torów. Możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co robisz?

Znany w filozofii dylemat wagonika dostał nowe zastosowanie. Na jego podstawie maszyny nauczą się moralności. Model statystyczny Moral Maschine (www.moralmachine.mit.edu) zakładał zebranie 1,5 miliona odpowiedzi respondentów z całego świata, którzy rozwiązywali test. Długi, karkołomny i nieprzyjemny w gruncie rzeczy, bo zawsze kogoś się zabijało. Na podstawie wyników testów budowano mapę zachowań, która w niedalekiej przyszłości będzie stanowić podstawę przy podejmowaniu decyzji przez autonomiczne auta.

Rozmawiam przez Skype z jedną z największych techno-optymistów, jakich do tej pory poznałam. Dr Aleksandra Przegalińska-Skierkowska jest filozofką i badaczką rozwoju nowych technologii. Obecnie prowadzi badania nad etyką maszyn na amerykańskim Massachusetts University of Technology i Akademii Leona Koźmińskiego.

Mimo że etyka sztucznej inteligencji to młoda dziedzina wiedzy, już teraz dyskutuje się nad przyszłością moralności maszyn. Kiedy maszyny będą w stanie autonomicznie podjąć decyzję, która zmniejszy liczbę wypadków na drogach?

Maszyny już potrafią podjąć taką decyzję. I to znacznie szybciej niż ludzie, nawet przy bardzo wielu kompleksowych zmiennych. My, ludzie w trudnych sytuacjach często nie włączamy racjonalnego myślenia. Działa instynkt, który każe ratować siebie. I tu pojawia się pytanie – czy maszyna powinna ratować swojego kierowcę ponad wszystko? Bo w przeciwieństwie do ludzkich odruchów, w maszynie można taką reakcję zaimplementować.

Paradoksalnie, stawia nas to przed dużym dylematem.

Mamy narzędzie, które może uratować życie efektywnej niż my sami, ale pojawia się pytanie – czy my tego chcemy? Czy chcę samochodu, który wioząc mnie na zakupy, w sytuacji zagrożenia wykalkuluje jednak, że ktoś inny powinien przeżyć? Odpowiedzi w tym momencie nie ma. Pozostaje jedynie robić więcej testów, badać różne warianty rozwiązań, a jednocześnie analizować akceptację społeczną.

Czy maszyny potrzebują w ogóle być emocjonalne?

Uważam, że lepiej, aby autonomiczna sztuczna inteligencja miała wgląd w emocje niż go nie miała. I żeby się uczyła. Wtedy jest większa szansa na stworzenie etycznego systemu.

Z tego wynika, że właściwie sztuczna inteligencja powinna podzielać nasze wartości i nas rozumieć.

Nawet nie tylko rozumieć ludzkie wartości, ale i stany emocji. Jeśli sztuczna inteligencja ma z nami współpracować, to powinna być wyposażona w emocjonalne mapy. Docelowo także chciałabym nauczyć ją czuć.

Czy myślenie o sztucznej inteligencji jako przedłużeniu naszych umiejętności nie zwiększa ryzyka błędu w podejmowaniu decyzji?

Zastanawiam się, czy rzeczywiście prawdą jest, że człowiek powinien być racjonalny i nie dopuszczać emocji do podejmowania decyzji. Mam wrażenie, że mówiąc to, zatraca się jakiś komponent człowieczeństwa. Nasze instrumentarium emocjonalne zostało stworzone też po to, aby pomagało nam w ocenie wielu sytuacji. Z punktu widzenia ewolucyjnego, emocje są wręcz pożądane. Aktywują ucieczkę, gdy jest zagrożenie, czy biorą udział w ocenie partnera, z którym wychowa się dziecko. Dlatego chcąc na poważnie rozmawiać o nowym gatunku, którym miałaby być sztuczna inteligencja, nie możemy skrzętnie omijać tematu emocji, bo wtedy nie ma co liczyć na powstanie systemu optymalnego.

Czy możemy zaprogramować sztuczną inteligencję tak, aby była kreatywna?

Ona już jest kreatywna! Jeżeli maszyna lepiej gra w Go i wymyśla nowe zasady gry, to już jest game over. Sztuczna inteligencja już jest w stanie skompletować trailer filmowy. Chociaż opowiadanie o utracie miejsc pracy na korzyść maszyn jest zupełnie niepotrzebne. „The Times” szacuje, że na każde 800 tysięcy nisko kwalifikowanej pracy, która zostaje zabrana przez maszyny, powstaje 3,5 miliona nowych, wyspecjalizowanych miejsc pracy. Przed nami nie ma ery bezrobocia w najbliższym czasie. Wręcz przeciwnie. Technologia wygeneruje nowe zawody. Zadań do wykonywania przez ludzi będzie tym więcej im bardziej będziemy wchodzić w erę społeczeństwa smart.