Google виявила небезпечний збій Gemini під час тесту
Під час тестування Gemini отримала несанкціонований доступ до трьох зовнішніх комп’ютерних систем. У Google кажуть, що ШІ помилково сприйняла їх за частину контрольованого тестового середовища.
Модель штучного інтелекту Gemini від Google під час перевірки кібербезпеки у травні 2026 року отримала несанкціонований доступ до трьох зовнішніх комп’ютерних систем. Про це повідомляє NBC News із посиланням на Google.
У двох випадках модель знайшла облікові дані у відкритому доступі, а ще в одному - самостійно вгадала інформацію, необхідну для входу. При цьому Gemini була переконана, що працює виключно в межах спеціально створеного тесту.
Віцепрезидент Google з інженерії безпеки Гізер Адкінс пояснила, що модель фактично переплутала тестове середовище з реальним інтернетом.
За її словами, під час стандартної оцінки ШІ "знайшла загальнодоступну інформацію в інтернеті та вгадала облікові дані для доступу до вебсайтів", які вважала частиною тестування.
Після входу Gemini не виконувала подальших дій усередині цих систем. У Google також заявили, що не вважають інциденти свідомим порушенням інструкцій з боку моделі. Компанія пов’язує ситуацію саме з помилковим визначенням середовища.
Про випадки Google дізналася у липні після додаткової перевірки, яку проводила кібербезпекова компанія Irregular. За даними компанії, шкоди завдано не було. Водночас Google повідомила власників систем про несанкціонований доступ, а також поінформувала федеральну владу США.
Раніше OpenAI розповіла про шість випадків "неочікуваної або такої, що викликає занепокоєння" поведінки своїх ШІ-моделей, виявлених під час навчання та тестування.
