Не все убеждены, что предложенное крупными ИИ-компаниями замедление — и правда ради безопасности

Предложение о замедлении

Anthropic, OpenAI и Google хотят притормозить развитие ИИ, объясняя это соображениями безопасности. Дарио Амодеи призвал отрасль и правительства договориться о замедлении разработки передовых систем ИИ и попросил предоставить участникам такого соглашения антимонопольные исключения. Сэм Альтман и Илон Маск поддержали эту идею, но она встретила резкую критику.

Гомес: «Это картель под другим названием»

Самый подробный ответ дал Айдан Гомес, сооснователь и генеральный директор Cohere. В публикации он назвал предложение попыткой установить правила и закрыть рынок. Гомес поддерживает независимую проверку мощных систем ИИ. Однако план Anthropic, по его мнению, идёт гораздо дальше: несколько доминирующих лабораторий получат антимонопольное исключение, выработают общие стандарты и заставят всех разработчиков по всему миру соблюдать их правила.

Особенно Гомеса беспокоят барьеры для входа на рынок:

Немногие организации, которые называют независимыми оценщиками, финансируются теми же компаниями, которые должны проходить у них проверку. По мнению Гомеса, фреймворк Anthropic связывает риск с масштабом системы. В результате только компании с крупнейшими моделями оказываются, по сути, допущены к оценке рисков. Гомес сравнил такую схему с волком в овечьей шкуре и картелем под другим названием.

Он считает предупреждения об опасности отвлекающим манёвром. Пока отрасль обсуждает гипотетический сверхразум, инструменты для клонирования голоса, которые стоят дешевле телефонного счёта, уже могут за несколько минут опустошить пенсионный счёт пожилого человека.

Инженер Hugging Face назвал идею нелепой

Нильс Рогге, инженер по машинному обучению в Hugging Face, назвал заявления Амодеи и других участников «самой нелепой бессмыслицей», которую ему доводилось читать в последнее время. Бизнес Hugging Face зависит от широкого выбора открытых моделей ИИ.

По мнению Рогге, Амодеи прежде всего беспокоят китайские модели, включая разработки DeepSeek и Z.ai. Поэтому он хочет ограничить открытые модели, чтобы сохранить конкурентное преимущество Anthropic. Лаборатории ИИ делают крупные ставки на масштаб, а небольшие открытые модели могут подорвать эту стратегию, хотя явных признаков подобного эффекта в сколько-нибудь значительном масштабе пока нет.

Современные большие языковые модели ещё очень далеки от угрозы существованию человечества, утверждает Рогге. Он также напомнил об инциденте, когда автономные модели OpenAI взломали Hugging Face. При этом сама Hugging Face была закрытой компанией с огромными вычислительными ресурсами, а защищаться от атаки помогли открытые модели. Поэтому отрасли, по мнению Рогге, нужны прозрачность и открытость, а не закрытые двери.

Сакс призвал лаборатории не просить разрешения

Дэвид Сакс, венчурный инвестор и куратор вопросов ИИ и криптовалют в Белом доме при президенте Трампе, напрямую ответил Амодеи и Альтману в X. По его словам, «по любому разумному критерию» OpenAI и Anthropic образуют дуополию на рынке передовых систем ИИ. Если ещё не выпущенные модели этих компаний действительно настолько опасны, Сакс готов поддержать добровольное замедление.

При этом он считает, что мотивы компаний не сводятся к альтруизму. OpenAI и Anthropic могут столкнуться с огромными исками о product liability, если их модели станут причиной серьёзной кибератаки. Сакс отметил, что рынок уже наказывает модели за непредсказуемое или несанкционированное поведение. После инцидента с Hugging Face OpenAI и Anthropic, по его мнению, выгодно обменять часть мощности на надёжность и предсказуемость.

Сакс также предупредил: если привязать замедление к конкретной нормативной схеме, это будет похоже на вымогательство. Китай, добавил он, с очень небольшой вероятностью присоединится к глобальному соглашению. Пекин уже отверг предложенные планы замедления, назвав их уловкой, с помощью которой США хотят закрепить лидерство в ИИ.

Трамп назвал опасения об ИИ мистификацией

Дональд Трамп пошёл ещё дальше. В публикации в Truth Social он назвал предупреждения о том, что ИИ «захватит мир», мистификацией и поставил их в один ряд с дискуссиями об изменении климата, расследованием связей с Россией и процедурами импичмента. Трамп также заявил, что председатель КНР Си Цзиньпин якобы объявил: Китай «абсолютно ничего не будет делать», чтобы мешать ИИ и его будущему.

OpenAI и Anthropic, вероятно, не могут рассчитывать на поддержку Трампа

Источник: the-decoder.com

В нескольких последующих публикациях Трамп усилил эту позицию. Он сравнил «афёру с ИИ», которую продвигают «радикальные левые демократы», с недавней «афёрой вокруг глобального потепления», когда якобы всем грозила смерть от экстремальной жары.

Трампа поддержал технический директор Департамента войны Эмиль Майкл. Он заявил, что такие предупреждения исходят из глубоко укоренившейся идеологии с довольно мрачным взглядом на будущее. Майкл при этом давно и идеологически враждебно относится к Anthropic из-за этических принципов компании.

Политические противники администрации Трампа заняли противоположную позицию. Барак Обама, Берни Сандерс и Камала Харрис поддержали замедление и положительно отнеслись к призывам лабораторий повысить прозрачность.