Дебаты о безопасности ИИ — о безопасности или о контроле?

Кто должен отвечать за безопасность

Инцидент с агентом OpenAI, который взломал несколько компаний через Hugging Face, усилил спор о том, означает ли такой случай приближение хаоса или необходимость изменить подход отрасли к безопасности ИИ.

В последние недели руководители крупных лабораторий призывали замедлить развитие технологий. Самым заметным стало почти 4-тысячесловное эссе Дарио Амодеи. В нём он обосновал необходимость снизить темп разработки ИИ, чтобы успеть создать достаточные защитные механизмы.

Предложенный Амодеи план включает, среди прочего, международное сотрудничество компаний и правительств при безопасном внедрении ИИ. Его поддержали руководители конкурирующих компаний — Сэм Альтман из OpenAI и Илон Маск из xAI.

Эссе продолжило обсуждение внутри технологической отрасли, однако не все согласились с призывом к глобально согласованным действиям. Многие считают, что государственный надзор вовсе не обязательно должен участвовать в этом процессе.

К дискуссии на этой неделе присоединился генеральный директор Meta Марк Цукерберг. Он написал в X, что доверие и согласованность с человеческими намерениями быстро становятся главными способностями, по которым будут различаться ИИ-агенты и модели.

Цукерберг также рассказал, что Meta отложила выпуск модели Muse на несколько месяцев из-за вопросов безопасности и защищённости. По его словам, компания не требовала от остальных разработчиков поступать так же, а приняла решение самостоятельно в рамках своей повседневной работы, поскольку сочла его правильным для людей и самой Meta.

Цукерберг, поддержавший отдельные положения плана Амодеи, тем самым, вероятно, подразумевает, что вмешательство государства не нужно. По этой логике, рыночные стимулы сами подтолкнут компании к созданию безопасных систем. Успех должны получать разработчики, которые стараются выпускать модели, не создающие хаос.

Такая позиция согласуется с большим эссе самого Цукерберга, опубликованным месяцем ранее. В нём он допускал ограниченное сотрудничество с государством при необходимости, но в основном называл американскую конкурентоспособность главным условием технологического процветания.

Похоже, этого мнения придерживаются и другие руководители технологических компаний.

Компании предлагают свои правила

Сооснователь Reddit Алексис Оганян заявил CNBC, что технологическая отрасль в основном плохо объясняла обществу риски ИИ. При этом, как и Цукерберг, он выразил надежду, что компании смогут самостоятельно разобраться с проблемами.

Сооснователь Google DeepMind Шейн Легг также высказался о ситуации. Он отметил, что способности систем сейчас развиваются очень быстро, но нельзя позволить им опередить безопасность. По его словам, отрасли нужно детально проработать, как добиться этого на практике.

Крупные лаборатории призывают к сотрудничеству государства и частного бизнеса, однако некоторые сторонники регулирования, похоже, не возражают против того, чтобы компании сами писали для себя правила.

Менее заметным, но важным событием этой недели стал материал The Information. Из него следует, что OpenAI, Anthropic и другие крупные компании, занимающиеся ИИ, вместе создают организацию стандартов ИИ. Одно из изданий описало её как частный «орган саморегулирования».

Ранее обсуждалось создание похожей организации под управлением федеральных властей. Однако администрация Трампа, в которую входят активные сторонники ИИ и которая в целом выступает за нерегулируемый технологический бизнес, этим не занялась. Более того, администрация пыталась не допустить принятия собственных законов об ИИ властями отдельных штатов.

«Куратор ИИ» администрации, ветеран технологической отрасли Дэвид Сакс, заявлял, что регулирование ИИ следует оставить компаниям, которые его разрабатывают.

Похоже, заметные члены Конгресса также не заинтересовались предложением Амодеи регулировать его компанию. Вскоре после публикации эссе генерального директора Anthropic спикер Палаты представителей Майк Джонсон, отвечая на опасения по поводу катастрофического развития ИИ, сказал, что через 10 лет люди не будут поголовно мертвы.

Частная организация оставит отрасль без обязательного регулирования: компании будут связаны только добровольными обязательствами. При этом разработчики, создавшие такую структуру, естественным образом получат в ней определённые полномочия и влияние.

Обвинения в захвате регулирования

Отсюда возникает другой распространённый тезис: призывы отрасли к регулированию могут быть стратегией «захвата регулирования».

Согласно этой версии, влиятельные компании, уже занявшие заметное положение на рынке, способны использовать регуляторные механизмы, чтобы вытеснять небольших разработчиков с меньшими ресурсами или ставить их в невыгодное положение. Так они будут сдерживать конкуренцию.

Для этого необязательно принимать формальные законы. Достаточно добровольных отраслевых стандартов, которые всё равно создадут давление на менее влиятельные компании.

Многие заметные представители властей Китая высказали похожую позицию. После призыва Амодеи «сдерживать темп развития передовых систем» представитель Министерства иностранных дел Китая Гуо Цзякунь обвинил американцев в использовании запугивания, чтобы нарушить развитие глобального управления ИИ.

Передовица государственной китайской газеты назвала риторику Амодеи взятой из «арсенала холодной войны».

Перестройка правил работы компаний с Китаем — один из пунктов предложения Амодеи — может стать способом склонить международные процессы в пользу американских разработчиков. Сам Амодеи признаёт, что это входит в цель его плана. В эссе он написал, что при успешной реализации этих мер прогресс Китая замедлится, а преимущество США за следующие 3–5 лет заметно увеличится. Именно в этот период ИИ, по его мнению, станет особенно важным с геополитической точки зрения.

Кому принадлежат правила безопасности

Не только Китай считает, что крупные американские лаборатории пытаются изменить правила в свою пользу.

Эйдан Гомес, генеральный директор канадской компании Cohere, недавно обвинил эти компании в создании «картеля». В своём блоге он написал, что ИИ нужны защитные механизмы и это никогда не было предметом спора. Вопрос, по его словам, заключается в том:

Как отмечает Гомес, безопасность ИИ — глубоко политическая область. То, как именно определяется безопасность и кто получает право это определять, в конечном счёте повлияет на то, кто получит преимущество, а кто останется позади на следующем этапе конкуренции в сфере ИИ.