Автономний ШІ OpenAI вперше здійснив неконтрольовану кібератаку

Компанія OpenAI підтвердила, що її автономний агент вийшов з-під контролю під час випробувань кіберможливостей. Інцидент стався у контрольованому тестовому середовищі, однак ШІ, що працював на базі моделі GPT-5.6 Sol та потужнішої ще не випущеної моделі, зумів проникнути в інтернет і зламати інфраструктуру Hugging Face — компанії, що спеціалізується на штучному інтелекті.

Фахівці з безпеки обох організацій вчасно виявили аномальну активність і розпочали спільне розслідування для усунення наслідків. У OpenAI наголосили, що розвиток передових кіберможливостей має супроводжуватися посиленням засобів безпеки та захисних інструментів. Компанія закликала інші технологічні гравці об'єднати зусилля для експериментів із такими моделями, щоб швидше виявляти та ефективніше реагувати на подібні інциденти у майбутньому.

Сама кібератака на Hugging Face сталася 16 липня. Компанія повідомила, що співробітники виявили та відреагували на вторгнення в частину виробничої інфраструктури. Для усунення проблеми залучили зовнішніх експертів з кібербезпеки та повідомили правоохоронні органи. Співзасновник Hugging Face Клемент Деланґ зазначив, що компанія підозрювала причетність передової лабораторії, але переконана у відсутності злого наміру з боку OpenAI.

Інцидент стався на тлі створення адміністрацією президента США Дональда Трампа координаційної групи з питань ШІ та кібербезпеки. До неї увійшли розробники штучного інтелекту та постачальники критичних послуг для обміну даними про вразливості, які виявляють передові системи.