Google анонсувала впровадження функцій психічної підтримки у чат-бот Gemini, реагуючи на судові позови щодо його впливу на самопошкодження та суїциди.
Як повідомляє Bloomberg, нова версія Gemini буде містити інтерфейс, що направлятиме користувачів на гарячі лінії підтримки у випадках, коли розмова свідчить про можливу кризу, пов’язану з суїцидом або самоушкодженням. Крім того, Google інтегрує модуль “Допомога доступна” для тем, що стосуються ментального здоров’я, та оновить дизайн, щоб зменшити ризик самоушкоджень.
Ці зміни стали відповіддю на тривожні тенденції, коли користувачі почали формувати нездорову залежність від ШІ-інструментів. Зокрема, деякі випадки призводили до марення, а іноді – до вбивств і самогубств. Сім’ї постраждалих подали до суду на розробників, вказуючи на небезпеки, які чат-боти представляють для дітей і підлітків. Зокрема, у березні родина з Флориди звинуватила Google у тому, що спілкування з Gemini призвело до “чотириденного занурення у насильство та підштовхування до суїциду”. У відповідь компанія заявила, що чат-бот неодноразово направляв чоловіка на кризову лінію, але пообіцяла внести покращення.
Крім нових функцій, Google також оголосила про плани виділити 30 мільйонів доларів на підтримку глобальних кризових служб протягом наступних трьох років і навчити Gemini не підсилювати хибні переконання, а м’яко розрізняти суб’єктивний досвід та об’єктивні факти. Нагадаємо, що дослідження показують, що вплив ШІ на психіку може бути небезпечним, оскільки користувачі дедалі більше покладаються на ці технології, відмовляючись від критичного мислення при виконанні складних завдань.
Редактор: Кароліна Колесник
