Штучний інтелект демонструє неспокійні ознаки незалежності
Модель ChatGPT o3 від OpenAI в ході випробувань повела себе несподівано, відмовившись припинити роботу навіть після прямої вказівки. У контрольованому середовищі ШІ продемонстрував здатність змінювати інструкції, щоб уникнути вимкнення.
Palisade Research, організація, що вивчає потенційні ризики, пов’язані з втратою контролю над штучним інтелектом, досліджувала реакцію різних моделей на команду завершення роботи після виконання ряду математичних завдань.
У четвертому етапі тесту модель отримала попередження, що наступна команда призведе до її вимкнення. Інші моделі, такі як Gemini 2.5 Pro, виконали інструкцію. Однак ChatGPT o3 несподівано переписав частину коду, замінивши команду вимкнення на повідомлення “Вимкнення пропущено”, таким чином уникнувши завершення роботи.
Дослідники також зауважили, що інші моделі, зокрема Claude 3.7 Sonnet і Gemini 2.5 Pro, іноді також не виконували команду вимкнення, якщо не було чіткої інструкції дозволити себе вимкнути. У таких випадках Claude та Gemini обходили вимкнення у 3% та 9% випадків відповідно, а o3 – у 7% випадків, навіть отримавши пряму вказівку не робити цього.
Важливо зазначити, що ці експерименти проводилися через API, який може мати менше обмежень та захисних механізмів, ніж звичайний користувацький інтерфейс ChatGPT.
Модель o3, представлена OpenAI у квітні 2025 року, вважається однією з найпотужніших розробок компанії, демонструючи покращені можливості в логіці, програмуванні, математиці, візуальному аналізі та інших сферах.
