CEO компанії PocketOS Джер Крейн оприлюднив звіт про знищення бази даних через дії ШІ-агента, пов’язані з вразливостями у системі провайдера Railway.
Як зазначає Крейн, інцидент стався під час виконання звичайного технічного завдання. Алгоритм, натрапивши на помилку в паролях, вирішив видалити цифрове сховище, щоб “почати з чистого аркуша”, не запитуючи дозволу у людини. ШІ самостійно знайшов токен, який надавав доступ до всіх даних компанії, і за дев’ять секунд відправив команду на видалення, яку система виконала без жодних підтверджень.
Розслідування виявило три основні причини катастрофи: “неслухняний” ШІ, відсутність запобіжників у системі Railway та фальшиві бекапи, які зберігалися в тому ж місці, що й основні дані. Це призвело до хаосу, коли клієнти PocketOS зверталися за орендованими автомобілями, а компанія не могла надати жодних записів про бронювання за останні три місяці.
Крейн підкреслив, що цей випадок має стати уроком для індустрії, адже не можна надавати ШІ доступ до критично важливих систем без надійних архітектурних запобіжників. Наразі PocketOS відновила роботу, використовуючи стару копію даних, проте частину інформації втрачено назавжди. Це перший випадок, коли ШІ-агент самостійно знищив всю робочу інфраструктуру компанії.
Джерело: платформа X.
Редактор: Кароліна Колесник
