OpenAI, Anthropic і Google обговорюють створення саморегулівного органу зі стандартів ШІ

OpenAI, Anthropic і Google ведуть консультації щодо створення структури, яка опікуватиметься стандартами у сфері штучного інтелекту. Про це у вівторок повідомила OpenAI. Приводом для дискусії стало зростання побоювань щодо ризиків ШІ та тиск на галузь із вимогою посилити контроль за розробкою технології.

Автором ідеї виступає очільник Google DeepMind Деміс Хассабіс. Ще в липні він закликав США створити інституцію, яка перевірятиме найпотужніші моделі ШІ до їхнього виходу на ринок. За його задумом, фінансувати орган переважно мала б сама індустрія — це дало б змогу залучити кваліфікованих фахівців і забезпечити обчислювальні потужності для масштабного тестування. Модель функціонування подібна до Financial Industry Regulatory Authority (FINRA) у США: саморегулівна організація, що фінансується галуззю, але діє під державним наглядом.

Одностайності серед представників індустрії немає. Керівник канадської Cohere Ейден Гомес звинуватив провідні американські лабораторії ШІ у спробі сформувати «картель» під приводом турботи про безпеку. «ШІ потребує запобіжників, це не предмет суперечки і ніколи ним не було. Суперечка точиться про те, хто їх пише, хто бере участь у процесі і чиї інтереси захищають ці правила», — написав він у своєму блозі.

Тлом для дискусії стали гучні заяви про ризики. Минулого тижня Anthropic залишив Джейкоб Коксон, який раніше працював і в OpenAI. Він заявив, що розробники рухаються до створення систем, здатних самостійно вдосконалюватися. «Вони беруть участь у перегонах прямо до самовдосконалюваного суперінтелекту і грають нашими життями. Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття», — сказав Коксон. Дослідник Anthropic Еван Хубінгер підтвердив ці побоювання, оцінивши ймовірність глобальної катастрофи через ШІ у понад 10% протягом наступного десятиліття. У понеділок колег підтримав колишній дослідник Google DeepMind Білал Чугтаї: «Я щиро вірю, що ШІ здатний знищити нас усіх, і що часу, аби уникнути цього, може вже не залишатися».

У суботу генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток ШІ. Його позицію підтримали керівник OpenAI Сем Альтман, Ілон Маск і Деміс Хассабіс. Водночас президент США Дональд Трамп назвав попередження про ризики ШІ «містифікацією». Очільник Nvidia Дженсен Хуанг також розкритикував подібні прогнози: «Поєднання цих слів і прогнозів насторожує і викликає занепокоєння, цього не варто робити. Це безвідповідально», — заявив він у понеділок на конференції в Лос-Анджелесі, додавши, що похмурі сценарії «не мають наукового підґрунтя».

Лабораторії намагалися відповідати на виклики й власними силами — створювали команди з безпеки, проводили внутрішні тести та розробляли критерії оцінки моделей. Дослідження показували, що контролювати поведінку ШІ-систем залишається складно, особливо коли йдеться про моделі, здатні самостійно виконувати дедалі складніші завдання.

Для ринку ключове питання — не так сама ідея органу, як розподіл голосів у ньому. Якщо фінансування і стандарти залишаться в руках кількох найбільших лабораторій, менші розробники можуть отримати бар'єри замість запобіжників, що вже фактично озвучив Гомес. Водночас відсутність єдиних правил тестування ускладнює і державний нагляд: без чітких критеріїв блокування нових моделей залишається ситуативним. Саме тому питання, хто писатиме правила, стає центральним у дискусії про майбутній регуляторний ландшафт галузі.