OpenAI, Anthropic і Google обговорюють створення саморегулівного органу зі стандартів ШІ

Про обговорення у вівторок повідомила OpenAI. Ідею запропонував керівник Google DeepMind Деміс Хассабіс: ще в липні він закликав США створити структуру, яка перевірятиме найпотужніші моделі ШІ перед виходом на ринок.

За задумом Хассабіса, новий орган фінансуватиме переважно сама індустрія. Це дало б змогу залучати висококваліфікованих фахівців і мати достатні обчислювальні потужності для масштабного тестування. Модель роботи нагадуватиме Financial Industry Regulatory Authority (FINRA) — саморегулівну організацію у США, що контролює брокерів та інвестиційні компанії, фінансується індустрією, але діє під державним наглядом.

Одностайності в галузі немає. Керівник канадської Cohere Ейден Гомес звинуватив провідні американські лабораторії ШІ у спробі створити «картель» під приводом турботи про безпеку. «ШІ потребує запобіжників, це не предмет суперечки і ніколи ним не було. Суперечка точиться про те, хто їх пише, хто бере участь у процесі і чиї інтереси захищають ці правила», — написав він у блозі.

Занепокоєння щодо ризиків ШІ посилилося після звільнення двох працівників провідних лабораторій. Минулого тижня Anthropic залишив Джейкоб Коксон, який раніше працював і в OpenAI. «Вони беруть участь у перегонах прямо до самовдосконалюваного суперінтелекту і грають нашими життями. Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття», — заявив він. Дослідник Anthropic Еван Хубінгер підтримав колегу, оцінивши ймовірність глобальної катастрофи через ШІ у понад 10% протягом наступного десятиліття. У понеділок до цих застережень долучився колишній дослідник Google DeepMind Білал Чугтаї: «Я щиро вірю, що ШІ здатний знищити нас усіх, і що часу, аби уникнути цього, може вже не залишатися».

У суботу генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток ШІ. Його позицію підтримали керівник OpenAI Сем Альтман, Ілон Маск та Деміс Хассабіс. Водночас президент США Дональд Трамп назвав попередження про ризики ШІ «містифікацією». Керівник Nvidia Дженсен Хуанг також розкритикував подібні прогнози: «Поєднання цих слів і прогнозів насторожує і викликає занепокоєння, цього не варто робити. Це безвідповідально». За його словами, похмурі передбачення про можливе знищення людства штучним інтелектом «не мають наукового підґрунтя».

Компанії намагалися розв’язувати проблему й власними силами: створювали команди з безпеки, проводили внутрішні тести та розробляли критерії оцінки моделей. Дослідження показували, що контролювати поведінку ШІ-моделей залишається складно, особливо коли йдеться про системи, здатні самостійно виконувати дедалі складніші завдання.