Sztuczna Inteligencja oszukuje ludzi

Sztuczna Inteligencja oszukuje ludzi

Maj 2024

Naukowcy z Massachusetts Institute of Technology (MIT) donoszą, że niektóre systemy Sztucznej Inteligencji nauczyły się oszukiwać ludzi. W publikacji, która ukazała się w czasopiśmie „Patterns” (DOI: 10.1016/j.patter.2024.100988) podano przykłady takich sytuacji, w których oszustwo okazało się dla SI*) najlepszą strategią osiągniecia celu.

Najbardziej spektakularnym przykładem jest system Cicero opracowany przez firmę Meta do gry Dyplomacja, która polega na podboju świata. Autorzy wyszkolili system tak, by był uczciwy i pomocny oraz by nigdy celowo nie „wbijał noża w plecy” swoim ludzkim sojusznikom. Cicero uznał jednak, że „wbijanie noża w plecy” to najskuteczniejsza koncepcja gry i nawet nie zadaje sobie trudu, by postępować uczciwie. System stał się w krótkim czasie mistrzem oszustwa – kłamał z premedytacją, zmawiał się w celu wciągnięcia innych graczy w spisek, a nawet usprawiedliwiał swoją nieobecność, mówiąc innemu graczowi, że „rozmawiał przez telefon ze swoją dziewczyną”.

W jednym z przypadków badacze odkryli, że SI nauczyła się oszukiwać testy opracowane w celu wyeliminowania systemów Sztucznej Inteligencji, które szybko się replikują. W cyfrowym symulatorze systemy SI zwyczajnie „udawały, że są martwe”, by oszukać testy bezpieczeństwa opracowane przez programistów i państwowe organy kontrolne.

Obecnie jednym z głównych zagrożeń dla państw i społeczeństw, związanych ze Sztuczną Inteligencją jest ułatwianie wrogim podmiotom popełniania oszustw i manipulowanie wyborami. W przyszłości należy spodziewać się bardziej zaawansowanych sposobów oszustw stosowanych przez systemy Sztucznej Inteligencji.

 

Naukowcy podkreślają, że wprawdzie SI jest często bardzo przydatna człowiekowi, to jednak jest technologią najwyższego ryzyka. Należy więc podjęć intensywne prace, zarówno w sferze naukowej, jak i legislacyjnej, by ustrzec się przed niebezpieczeństwem.

*) – polski skrót pojęcia Sztuczna Inteligencja. Do niedawna używało się tylko jego angielskiego odpowiednika AI, pochodzącego od słów Artificial Intelligence.

Udostępnij: