OpenAI, Anthropic і Google обговорюють створення саморегулівного органу для стандартів ШІ

OpenAI, Anthropic та Google обговорюють створення структури, яка займатиметься стандартами у сфері штучного інтелекту. Про це у вівторок повідомила OpenAI. Передумовою стали зростаючі побоювання щодо ризиків ШІ та вимоги до індустрії посилити контроль за розробкою технології.

Автором ідеї виступив керівник Google DeepMind Деміс Хассабіс. У липні він закликав США створити орган, який перевірятиме найпотужніші моделі ШІ перед виходом на ринок. За його задумом, фінансувати структуру переважно має сама індустрія — це дасть змогу залучити кваліфікованих фахівців і забезпечити обчислювальні потужності для масштабного тестування.

Запропонована модель нагадує Financial Industry Regulatory Authority (FINRA) — саморегулівну організацію у США, яка контролює брокерів та інвестиційні компанії, фінансується галуззю, але працює під державним наглядом.

Однак одностайності в індустрії немає. Керівник канадської Cohere Ейден Гомес звинуватив провідні американські лабораторії ШІ у спробі створити «картель» під приводом турботи про безпеку. «ШІ потребує запобіжників, це не предмет суперечки і ніколи ним не було. Суперечка точиться про те, хто їх пише, хто бере участь у процесі і чиї інтереси захищають ці правила», написав він у своєму блозі.

Занепокоєння щодо ризиків ШІ посилилося останніми тижнями після звільнення двох працівників провідних лабораторій. Минулого тижня Anthropic залишив Джейкоб Коксон, який раніше працював і в OpenAI. Він заявив, що розробники рухаються до створення систем, здатних самостійно вдосконалюватися. «Вони беруть участь у перегонах прямо до самовдосконалюваного суперінтелекту і грають нашими життями. Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття», — сказав Коксон.

Дослідник Anthropic Еван Хубінгер підтвердив побоювання колеги, оцінивши ймовірність глобальної катастрофи через ШІ у понад 10% протягом наступного десятиліття. У понеділок застереження підтримав колишній дослідник Google DeepMind Білал Чугтаї: «Я щиро вірю, що ШІ здатний знищити нас усіх, і що часу, аби уникнути цього, може вже не залишатися».

У суботу генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток ШІ. Його позицію підтримали керівник OpenAI Сем Альтман, Ілон Маск та Деміс Хассабіс. Натомість президент США Дональд Трамп назвав попередження про ризики ШІ «містифікацією». Керівник Nvidia Дженсен Хуанг також розкритикував подібні прогнози: «Поєднання цих слів і прогнозів насторожує і викликає занепокоєння, цього не варто робити. Це безвідповідально». За його словами, похмурі прогнози про можливе знищення людства штучним інтелектом «не мають наукового підґрунтя».

Компанії намагалися вирішувати проблему й власними силами: створювали команди з безпеки, проводили внутрішні тести та розробляли критерії оцінки моделей. Дослідження показували, що контроль за поведінкою ШІ-моделей залишається складним завданням, особливо коли йдеться про системи, здатні самостійно виконувати дедалі складніші завдання.