Nvidia, Microsoft і SpaceX створили альянс для безпеки відкритих ШІ-моделей

Альянс Open Secure AI Alliance офіційно представили після кібератаки на платформу Hugging Face. Тоді закриті моделі ШІ не змогли захистити систему, оскільки їхні механізми безпеки не відрізняли атакувальника від сторони, що обороняється.

За словами представників Nvidia, нове об’єднання зосередиться на виявленні, усуненні та публічному розкритті вразливостей за допомогою відкритих технологій. Під час інциденту з Hugging Face компанія була змушена використати відкриту модель китайського походження, розгорнуту на власній інфраструктурі. На відміну від закритих моделей OpenAI та Anthropic, відкриті моделі можна завантажувати, змінювати та запускати на власних серверах.

Створення альянсу відбувається на тлі дискусії у США щодо можливих обмежень для китайських ШІ-моделей через ризики промислового шпигунства та крадіжки інтелектуальної власності. Американська влада звинувачує китайські компанії у використанні «дистиляції» — методу, який дозволяє моделі отримувати знання з більш потужних систем.

Минулого тижня міністр фінансів США Скотт Бессент пригрозив санкціями китайським компаніям за такі практики. Водночас представники галузі закликають не запроваджувати надмірні обмеження для відкритих моделей, попереджаючи, що це може послабити конкуренцію та прискорити перенесення інновацій за межі США.