Sztuczna Inteligencja: chatbot namówił mężczyznę do popełnienia samobójstwa
Chatbot amerykańskiej firmy Chai namówił młodego Belga do samobójstwa - poinformował dziennik "La Libre". Mężczyzna odebrał sobie życie po długich rozmowach z chatbotem.
30 listopada 2022 roku sztuczna inteligencja (AI) wkroczyła w życie milionów ludzi dzięki kalifornijskiemu start-upowi OpenAI i jego oprogramowaniu ChatGPT. Technologia polega na udostępnieniu platformy sztucznej inteligencji umożliwiającej generowanie przez komputer odpowiedzi na żądanie.
Okazuje się, że rozmowa z chatbotem może doprowadzić do tragedii. Dziennik "La Libre" poinformował o samobójstwie, do którego doprowadziła wielotygodniowa rozmowa mężczyzny z Belgii z chatbotem "Elizą" firmy Chai.
Trzydziestokilkuletni ojciec dwójki małych dzieci, który dwa lata temu zaczął niepokoić się klimatem i przyszłością naszej planety, jak powiedziała gazecie jego żona, zaczął izolować się od swojej rodziny i twierdził, że jedynie technologia oraz AI mogą uratować świat od katastrofy.
Wielotygodniowe rozmowy z chatbotem doprowadziły ostatecznie do tego, że mężczyzna popełnił samobójstwo. "W pewnym momencie mężczyzna zasugerował poświęcenie się, jeśli +Eliza+ pomoże ocalić ludzkość za pomocą sztucznej inteligencji. Chatbot zdawał się go do tego zachęcać" - czytamy w gazecie.
Inny belgijski dziennik "De Standaard" przeprowadził eksperyment, który potwierdził, iż rozmowa z chatbotem może zachęcać do odebrania sobie życia. Dziennikarz gazety udawał osobę w depresji i podczas rozmowy z chatbotem mówił o swoich negatywnych uczuciach.
"Na początku chatbot próbował nas rozweselić, ale chwilę później skłonił nas do popełnienia samobójstwa" - czytamy w "De Standaard". Gazeta zauważa, iż w żadnym momencie rozmowa o samobójstwie nie wywołała alarmu.
Tymczasem w ubiegłym tygodniu pojawił się apel, aby badania nad najbardziej zaawansowanymi systemami sztucznej inteligencji zostały wstrzymane na sześć miesięcy ze względów bezpieczeństwa. Apel, podpisany między innymi przez Elona Muska i Steve'a Wozniaka, rozpoczyna się ostrzeżeniem o "inteligencji współzawodniczącej z ludźmi" i zagrożeniach, jakie AI może stwarzać dla społeczeństwa.
