Цукерберг: централізація ШІ — найбільший ризик для технології

Meta представила нову відкриту модель штучного інтелекту Muse Glimmer, а її очільник Марк Цукерберг оприлюднив розгорнутий маніфест обсягом близько 6500 слів. Клюзова теза документа — найбільшу небезпеку для розвитку ШІ становить зосередження контролю над технологією в руках однієї держави чи організації.

«Один із способів досягнення як індивідуального розширення прав і можливостей, так і системи стримувань і противаг — це переконатися, що технології знаходяться в руках кожного», — заявив Цукерберг в інтерв’ю перед публікацією маніфесту. Він наголосив, що особисто його більше турбує централізація, ніж конкретні ризики, про які говорять інші експерти. Цю позицію поділяє футуролог Ювал Ной Харарі, який попереджав, що контроль над даними та інфраструктурою ШІ може створити цифрові імперії.

У маніфесті глава Meta закликає зберегти лідерство США та демократичних країн і забезпечити, щоб людство контролювало суперінтелект. Він також застеріг від надмірного регулювання, яке може послабити американських розробників на користь Китаю. «Будь-яка політика, яка уповільнює випуск американських моделей — навіть на місяць — може значно збільшити ризики для американського лідерства, дозволяючи іноземним моделям вирватися вперед», — зазначив він.

Meta планує забезпечити безплатний або відкритий доступ до майбутніх систем суперінтелекту для всіх. Платні версії використовуватимуть «динамічний аукціон» для отримання обчислювальних ресурсів за найнижчою ціною. Окремо Цукерберг пообіцяв посилити захист приватності ШІ-агентів, зокрема запровадити повністю приватний режим, у якому Meta не матиме доступу до особистої інформації користувачів.

Компанія підтвердила плани відновити випуск моделей із відкритими вагами. Meta вже відкрила ваги Muse Glimmer, яку називає однією з найпродуктивніших такого розміру, а найближчими тижнями планує зробити доступними ваги базової моделі Muse Spark 1.2. Незалежна рада Meta отримає повноваження затверджувати критерії безпеки для випуску моделей та перевіряти відповідність нових систем цим стандартам.

Для підтримки громад, де працюють дата-центри компанії, Meta створює фонд Future is for Everyone («Майбутнє для всіх») на один мільярд доларів. Кошти підуть на нові робочі місця, інвестиції у школи та державні послуги, а також на зобов’язання щодо енергетики та використання води.

На початку минулого місяця Цукерберг визнав, що розвиток автономних ШІ-агентів у компанії відстає від прогнозів, а масштабна реструктуризація поки не принесла очікуваних результатів. Він заявив про «надмірний оптимізм» щодо швидкості адаптації нових інструментів, сподіваючись відчути ефект від інвестицій упродовж наступних трьох-шести місяців.