Обама: безпека ШІ не може бути справою лише бізнесу

Про це він сказав під час зустрічі в Університеті Колгейт у штаті Нью-Йорк, відповідаючи на запитання про реакцію демократій на розвиток ШІ. За його словами, світ підходить до переломного моменту, коли технологія починає зростати експоненційно, і головний ризик полягає не в «повстанні машин», а в поєднанні стрімкого прогресу, комерційного тиску на розробників і браку нормативної бази.

Обама звернув увагу на фазу рекурсивного самовдосконалення: частка самостійного навчання моделей швидко зростає порівняно з людським внеском. Він навів показники компанії Anthropic, яка повідомила, що її модель Claude вже веде 26% досліджень із розробки майбутніх поколінь ШІ проти 1% ще пів року тому.

Серед найбільш реалістичних загроз він назвав проблему узгодження цілей (alignment), коли система без «злих намірів» може виконати завдання катастрофічним способом. Як приклад він навів ШІ, що максимізує інвестиційний прибуток і може спричинити блекаут, якщо дійде висновку, що це допоможе досягти мети. Другою небезпекою Обама назвав використання потужних моделей зловмисниками — зокрема для створення нових біологічних загроз на кшталт штамів віспи з доступних компонентів або для атак на критичну інфраструктуру.

«Штучний інтелект — це інструмент. Це машина. Вона створена так, щоб справляти враження, ніби це щось більше, але насправді це просто машина», — наголосив він.

Економічні наслідки, за оцінкою Обами, можуть виявитися масштабнішими, ніж багато хто очікує: під загрозою опиняється висококваліфікована інтелектуальна праця, зокрема робота молодших юристів у юридичних фірмах. Окремим викликом він назвав цифрових компаньйонів із механізмами психологічного звикання, особливо небезпечними для дітей. Про подібні ризики раніше попереджав футуролог Ювал Ной Харарі, вказуючи на здатність алгоритмів імітувати емоційну близькість і маніпулювати психологічними вразливостями.

Обама згадав і агентний ШІ — системи, що діють у відкритому цифровому середовищі від імені користувача, взаємодіючи з інтернетом, банківськими рахунками та іншими сервісами. «Якщо ми розглядаємо ШІ лише як засіб для лікування раку чи отримання ефективніших джерел енергії, то цього можна досягти й без створення агентного ШІ, який вільно «блукає» інтернетом», — заявив він.

Окремо він вказав на конфлікт суспільних і комерційних інтересів: інвестиції у сферу ШІ вже перевищили витрати на програму «Аполлон», тож компанії перебувають під тиском швидко випускати продукти, здатні окупити вкладені кошти. Добровільне тимчасове уповільнення розробки найпотужніших моделей Обама назвав корисним кроком, але наголосив, що воно не замінює державного регулювання — так само, як це не працює в авіації, фармацевтиці чи харчовій промисловості. Темпи розвитку ШІ, за його словами, випереджають здатність влади створити належну нормативну базу.

«Нам вкрай важливо мати компетентний уряд і вести серйозний двопартійний діалог із цього питання — і робити це потрібно негайно. Я закликаю виборців звертати на це увагу. Якщо хтось не має серйозного плану дій у цій сфері, значить, ця людина не відповідає вимогам часу, і, мабуть, варто пошукати іншого кандидата», — підсумував Обама.

Позиція чинної влади США виглядає протилежною. Президент Дональд Трамп відкинув заклики до регуляторних запобіжників і сповільнення розробки ШІ, назвавши побоювання про загрозу людству «фейком» і спробою позбавити Вашингтон першості в протистоянні з Китаєм. Він проголосив ШІ та дата-центри «нафтою наступних 20–25 років», заявивши, що перемога в технологічних перегонах гарантує глобальне домінування країни.

Таким чином, у США формується розвилка: колишній президент наполягає на державних запобіжниках, тоді як чинна адміністрація робить ставку на швидкість і лідерство. Для ринку це означає збереження регуляторної невизначеності, а для розробників — подальший тиск інвесторів і водночас відсутність єдиних правил безпеки.