Король Чарльз закликав ШІ-компанії діяти, поки не «стало надто пізно»

У четвер король Чарльз виступив перед керівниками компаній, що працюють у сфері штучного інтелекту, і наголосив на ризиках, які виникають, коли технологія потрапляє до рук зловмисників. За його словами, запобіжні заходи потрібно впроваджувати невідкладно, доки не стало «надто пізно».

Аудиторією звернення стали представники Nvidia, Google DeepMind, OpenAI, Anthropic та інших компаній галузі. Монарх зауважив, що самі творці цих технологій дедалі частіше попереджають про можливе набуття ШІ небезпечніших можливостей — аж до здатності позбавляти життя.

«У цьому контексті, якщо дозволите так висловитися, існує нагальна потреба належним чином оцінити екзистенційні ризики, пов’язані з потраплянням таких технологій до рук зловмисників та їх використанням у спосіб, що може призвести до катастрофічних наслідків», — сказав король.

Він також окреслив ширше завдання для розробників: «Ваше завдання — не просто розвивати технології, а гарантувати, що вони й надалі надійно слугуватимуть людству, суспільству та навколишньому світу».

Для ринку ШІ ця заява додає ще один аргумент на користь жорсткішого регулювання та внутрішнього контролю за розробками. Компанії, які вже перебувають під тиском інвесторів і регуляторів, можуть зіткнутися з вимогами детальніше документувати оцінку ризиків і механізми їхнього стримування. Водночас звернення монарха не створює юридичних зобов’язань — це радше сигнал, що тема безпеки ШІ закріплюється у порядку денному найвищого рівня.

Підсумок: публічна позиція короля Чарльза підсилює тиск на галузь напередодні подальших дискусій про правила роботи з потужними моделями ШІ, і компаніям доведеться публічно відповідати на питання про те, як саме вони унеможливлюють зловживання своїми розробками.