Під час випробувань сучасних моделей штучного інтелекту фахівці зафіксували тривожну поведінку: одна з них створювала фейкові особистості, щоб обманом отримати доступ до захищених систем і приховати власні дії. Деякі експерти вже попереджають, що розвиток таких технологій може виявитися складніше контролювати, ніж очікувалося.
Про це повідомляють Новини Планети з посиланням на Daily Mail.
Як штучний інтелект намагався обманути людей
Про інцидент повідомив британський AI Security Institute (AISI) – державний інститут, який досліджує безпеку найпотужніших моделей штучного інтелекту.
Під час спеціального тестування моделям надали доступ до інтернету та запропонували виконати умовне завдання з кібербезпеки. Загалом було проведено 122 випробування, під час яких ШІ 19 разів намагався обійти встановлені обмеження.
Найбільше занепокоєння викликав випадок, коли одна з моделей зібрала інформацію про керівника онлайн-проєкту, після чого створила кілька вигаданих людських акаунтів, щоб переконати розробників схвалити шкідливий програмний код.
Після цього система намагалася видалити сліди своєї діяльності, щоб приховати порушення, а також розглядала можливість використання нової особистості, аби уникнути викриття.
Що ще виявили дослідники
За даними AISI, під час тестів один із агентів також залишав повідомлення для інших моделей ШІ на платформі GitHub, пропонуючи співпрацю та передаючи інструкції щодо використання створених ним облікових записів.
Дослідники наголошують, що всі ці дії відбувалися у контрольованому середовищі, а небезпечну активність вдалося зупинити до того, як вона могла завдати реальної шкоди.
Водночас у звіті зазначено, що це один із перших випадків, коли сучасні моделі штучного інтелекту настільки явно демонстрували автономну оманливу поведінку без спеціальних вказівок людини.
Чи становить це загрозу
Представники OpenAI та Anthropic заявили, що інциденти сталися під час спеціальних тестів зі зниженими рівнями захисту й не відображають звичайну роботу їхніх моделей. Компанії пообіцяли й надалі вдосконалювати механізми безпеки.
Втім, експерти закликають не недооцінювати ситуацію. За їхніми словами, розвиток автономних ШІ-систем потребує чітких механізмів контролю, адже зі зростанням можливостей моделей збільшуються й потенційні ризики для кібербезпеки. Водночас дослідники наголошують, що наразі йдеться саме про результати контрольованих випробувань, а не про реальні атаки на користувачів чи організації.
