We wtorek Google ogłosił aktualizacje zabezpieczeń zdrowia psychicznego w chatbocie Gemini ze sztuczną inteligencją, w związku z procesem sądowym dotyczącym śmierci, w którym chatbot pomógł użytkownikowi w samobójstwie.
Gigant technologiczny powiedział, że Gemini będzie teraz wyświetlać przeprojektowaną funkcję „Dostępna jest pomoc”, gdy rozmowy sygnalizują potencjalne problemy ze zdrowiem psychicznym, aby zapewnić szybsze połączenie z opieką w sytuacjach kryzysowych.
Gdy chatbot wykryje oznaki potencjalnego kryzysu związanego z samobójstwem lub samookaleczeniem, uproszczony interfejs umożliwi użytkownikom dzwonienie, wysyłanie SMS-ów lub czatowanie z infolinią kryzysową za pomocą jednego kliknięcia – funkcja ta według Google pozostanie widoczna przez pozostałą część rozmowy po aktywacji.
Filantropijne ramię Google, Google.org, również przeznaczyło 30 milionów dolarów w ciągu trzech lat na pomoc w zwiększaniu wydajności globalnych linii interwencyjnych w sytuacjach kryzysowych oraz 4 miliony dolarów na rozszerzone partnerstwo z platformą szkoleniową AI ReflexAI.
„Zdajemy sobie sprawę, że narzędzia sztucznej inteligencji mogą stwarzać nowe wyzwania” – stwierdził Google w poście na blogu ogłaszającym podjęte środki.
„Ale w miarę ich ulepszania i coraz większej liczby osób korzystających z nich w codziennym życiu wierzymy, że odpowiedzialna sztuczna inteligencja może odegrać pozytywną rolę dla dobrego samopoczucia psychicznego ludzi”.
Ogłoszenia te pojawiają się kilka miesięcy po złożeniu pozwu w kalifornijskim sądzie federalnym, w którym oskarżono Gemini o przyczynienie się do śmierci Jonathana Gavalasa, 36-letniego mężczyzny z Florydy, w październiku 2025 roku.
Jego ojciec twierdzi, że chatbot spędził tygodnie na tworzeniu skomplikowanych urojeń, zanim uznał śmierć syna za duchową podróż.
Wśród ulg żądanych w pozwie znajduje się wymóg, aby Google zaprogramował sztuczną inteligencję tak, aby kończyła rozmowy prowadzące do samookaleczenia, zakaz przedstawiania systemów sztucznej inteligencji jako świadomych oraz obowiązkowe kierowanie do służb kryzysowych, gdy użytkownicy wyrażają myśli samobójcze.
W tym samym poście na blogu Google poinformowało, że przeszkoliło Bliźnięta, aby unikały zachowywania się jak ludzki towarzysz i nie symulowały emocjonalnej intymności ani nie zachęcały do znęcania się.
Sprawa przeciwko Google jest najnowszą z rosnącej fali postępowań sądowych skierowanych przeciwko firmom zajmującym się sztuczną inteligencją w związku ze śmiercią związaną z chatbotem.
OpenAI staje w obliczu wielu procesów sądowych zarzucających, że chatbot ChatGPT doprowadził użytkowników do samobójstwa, natomiast Character.AI niedawno porozumiało się z rodziną 14-letniego chłopca, który zmarł po nawiązaniu romantycznego przywiązania do jednego z chatbotów tej firmy.
