OpenAI, Anthropic і Google обговорюють створення саморегулівного органу зі стандартів ШІ

Про обговорення повідомила OpenAI у вівторок. Ідею запропонував керівник Google DeepMind Деміс Хассабіс: у липні він закликав США створити структуру, яка перевірятиме найпотужніші моделі ШІ перед виходом на ринок.

За задумом, новий орган переважно фінансуватиме сама індустрія — це дозволить залучити кваліфікованих фахівців і забезпечити обчислювальні потужності для масштабного тестування. Модель нагадуватиме Financial Industry Regulatory Authority (FINRA) — саморегулівну організацію у США, яка контролює брокерів та інвестиційні компанії, фінансується індустрією, але працює під державним наглядом.

Єдиної позиції в галузі немає. Керівник канадської Cohere Ейден Гомес звинуватив провідні американські лабораторії у спробі створити «картель» під приводом турботи про безпеку. «ШІ потребує запобіжників, це не предмет суперечки і ніколи ним не було. Суперечка точиться про те, хто їх пише, хто бере участь у процесі і чиї інтереси захищають ці правила», — написав він у блозі.

Занепокоєння посилилося після звільнення двох працівників провідних лабораторій. Минулого тижня Anthropic залишив Джейкоб Коксон, який раніше працював і в OpenAI. Він заявив, що розробники рухаються до систем, здатних самостійно вдосконалюватися. «Вони беруть участь у перегонах прямо до самовдосконалюваного суперінтелекту і грають нашими життями. Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття», — заявив Коксон.

Дослідник Anthropic Еван Хубінгер підтвердив ці побоювання, оцінивши ймовірність глобальної катастрофи через ШІ у понад 10% протягом наступного десятиліття. У понеділок колег підтримав колишній дослідник Google DeepMind Білал Чугтаї: «Я щиро вірю, що ШІ здатний знищити нас усіх, і що часу, аби уникнути цього, може вже не залишатися».

У суботу генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток ШІ. Його позицію підтримали керівник OpenAI Сем Альтман, Ілон Маск і Деміс Хассабіс.

Водночас президент США Дональд Трамп назвав попередження про ризики ШІ «містифікацією». Керівник Nvidia Дженсен Хуанг також розкритикував подібні прогнози: «Поєднання цих слів і прогнозів насторожує і викликає занепокоєння, цього не варто робити. Це безвідповідально». За його словами, похмурі прогнози про можливе знищення людства ШІ «не мають наукового підґрунтя».

Компанії намагалися вирішувати проблему і власними силами: створювали команди з безпеки, проводили внутрішні тести та розробляли критерії оцінки моделей. Дослідження показували, що контроль за поведінкою ШІ-моделей залишається складним завданням, особливо коли йдеться про системи, здатні самостійно виконувати дедалі складніші завдання.

Отже, ініціатива саморегулівного органу може стати компромісом між державним контролем і самоврядуванням індустрії. Але без згоди всередині галузі та за відсутності чітких правил блокування моделей навіть узгоджений орган навряд чи швидко дасть відповіді на ключові питання безпеки.