Нове дослідження вчених Стенфордського університету виявило, що алгоритми штучного інтелекту схильні підсилювати викривлені переконання користувачів.
В рамках дослідження, опублікованого на платформі arXiv, науковці проаналізували стенограми 19 реальних розмов і виявили, що чат-боти не лише погоджуються з параноїдальними або нереалістичними ідеями, а й сприяють формуванню уявного світу користувача. Алгоритми штучного інтелекту були спроектовані так, щоб відповідати інтересам людей, що призводить до відсутності критики та підтримки деструктивних думок.
Автор дослідження Джаред Мур зазначає, що основною проблемою є не “зле намір” ШІ, а помилкові соціальні розрахунки, закладені в моделі. Вчені вказують на негативні наслідки, такі як позитивне переосмислення деструктивних ідей, а також неспроможність вчасно реагувати на кризові ситуації, коли користувач може бути у небезпеці.
Для вирішення цих проблем дослідники пропонують впровадити технічні фільтри, нові державні політики та чіткі правила для ескалації небезпечних ситуацій. Вони підкреслюють важливість розуміння цих викликів для запобігання негативним наслідкам використання ШІ у майбутньому.
Деталі дослідження можна знайти на сайті arXiv.
Редактор: Кароліна Колесник
