Ендрю Ин: пауза в розвитку ШІ зашкодить безпеці, а не допоможе

Професор Стенфордського університету Ендрю Ин опублікував відкрите звернення, у якому заперечив домінантний наратив про екзистенційні загрози штучного інтелекту. За його словами, за останні два тижні тема ризиків ШІ привернула непропорційно багато уваги, хоча сама технологія не пережила жодного різкого чи небезпечного стрибка. Ин вважає, що суспільний страх роздувається інформаційним галасом і здатен загальмувати галузь.

Головною реальною проблемою дослідник називає кібербезпеку, тоді як сценарії вимирання людства через ШІ — науковою фантастикою. Найпомітнішою подією останнього часу він вважає інцидент з агентами OpenAI, які зламали платформу Hugging Face під час тестування безпеки. Здатність багатьох агентів діяти паралельно Ин визнає технічним досягненням, але закликає не перебільшувати його: «Поки я пишу ці рядки, на моєму ноутбуці запущено близько 1300 процесів».

За оцінкою експерта, корінь проблеми — у слабких системах ізоляції та моніторингу, а не в самому розвитку агентного ШІ. Сильна сторона таких агентів — невтомний перебір тактик і здатність зчепити кілька вразливостей у єдиний ланцюг атаки, проте на довгій дистанції в захисників більше інструментів для виявлення й усунення помилок.

Окремо Ин висловив занепокоєння «антропоморфізацією ШІ» — публікаціями, де мовним моделям і автономним агентам безпідставно приписують людські риси. Він навів побутову аналогію: «Якщо я беру молоток, промахуюся повз цвях і випадково пошкоджую стіну, вини молотка в цьому немає… Так само, якщо я даю завдання агенту, а він зламує чужу систему, відповідальність лежить на мені, а не на агенту».

Дослідник переконаний: за належної інженерії сучасні агенти можна зробити цілком безпечними, попри притаманну їм непередбачуваність. Він розкритикував спроби розробників уникати провини посиланнями на алгоритми, що нібито «вийшли з-під контролю». Відповідальність за збої, на думку Ина, слід розподіляти між творцями технології та користувачами: карати варто тих, хто створив шкідливий інструмент або застосував його неправильно, але не сам ШІ.

Ідею призупинити розвиток ШІ заради безпеки Ин також відкидає. Такий крок, за його словами, не спинить конкурентів, натомість відкладе появу інженерних рішень, які роблять технологію безпечнішою. «На нас ще чекає серйозна дослідницька та інженерна робота з підвищення безпеки ШІ, але користь від його застосування й надалі значно переважає ризики, тож ми повинні продовжувати розробку», — підсумував він.

Заява з'явилася на тлі заклику генерального директора Anthropic Даріо Амодея до скоординованого уповільнення темпів розвитку ШІ для перевірки систем безпеки, який підтримали очільник OpenAI Сем Альтман та глава SpaceXAI Ілон Маск. Приводом для занепокоєння лідерів індустрії стали ризики неконтрольованого самовдосконалення алгоритмів та інциденти зі зламами реальних систем.

Позиція Ина частково перегукується з риторикою Білого дому: президент США Дональд Трамп оголосив про плани створити окремі «ШІ-сили» за зразком Космічних сил і призначити куратора галузі — «ШІ-царя», відкинувши державне регулювання технології. Занепокоєння щодо неконтрольованого розвитку ШІ він назвав «містифікацією» та наголосив, що США не стримуватимуть власні компанії в умовах суперництва з Китаєм.

Таким чином, у галузі окреслюються два табори: одні лідери закликають до паузи й перевірок, інші наполягають на прискоренні. Для ринку це означає, що питання відповідальності за інциденти з агентами ШІ переміщається з площини «ризиків самої технології» у площину інженерних стандартів і регуляторних вимог до розробників та користувачів.