«Строите Франкенштейна — остановитесь»: Джей Ди Вэнс отверг призывы регулировать ИИ

Вэнс о «Франкенштейне»

Вэнс выступал после недели растущей международной тревоги из-за рисков для человечества, связанных с возможным появлением искусственного сверхинтеллекта. Такой технологии пока не существует.

Обращаясь к Дарио Амодеи, сооснователю Anthropic, который призывал Вашингтон координировать контроль над ИИ-системами, в том числе с Китаем, Вэнс отверг идею глобального регулирования рисков безопасности ИИ. По его словам, компаниям не следует создавать «Франкенштейна», а затем обращаться к государству с просьбой ввести регулирование.

Вэнс предложил руководителям технологических компаний сначала посмотреть на собственные действия и признать две вещи:

Прогнозы об угрозе человечеству

В субботу Амодеи предупредил, что ускорение развития способностей ИИ может привести к появлению роя ИИ-агентов, способного захватить весь интернет в течение 6–12 месяцев.

Многие сомневаются в таком прогнозе, однако он усилил внимание к более раннему утверждению Эвана Хубингера, руководителя направления науки о согласовании ИИ в Anthropic. Тот оценивал вероятность того, что ИИ уничтожит всех людей в течение 10 лет, более чем в 10%. Хубингер отвечал исследователю Джейкобу Коксону, который ушёл из Anthropic после аналогичного предупреждения.

Генеральный директор Anthropic Дарио Амодеи выступил с резким предупреждением о рисках для безопасности ИИ в минувшие выходные

Источник: theguardian.com

Во вторник вечером Коксон изменил свой прогноз. Он заявил, что при замедлении темпов развития риск можно снизить до 0%, но для этого потребуются радикальные действия. Одновременно исследователь признал, что ему трудно описать конкретные сценарии, в которых ИИ уничтожает всё человечество, и что ему нужно лучше объяснить эту мысль.

Готовность Вэнса признать реальность подобного риска стала расхождением с позицией президента США Дональда Трампа. На этой неделе Трамп написал, что разговоры о захвате мира ИИ, уничтожении человечества и прочих негативных последствиях — обман. По его словам, ИИ станет величайшим двигателем экономического развития в истории, превзойдя нефть, золото, алмазы и даже интернет.

Спор о регулировании

Вэнс говорил, что подозревает лидеров ИИ-компаний в использовании предупреждений о рисках как «троянского коня». Амодеи предлагал компаниям отрасли координировать действия, чтобы замедлить улучшение способностей ИИ-моделей на время введения регулирования в США и других странах.

Критики компаний считают, что те подталкивают американское правительство к жёстким новым правилам, составленным в их интересах. Такие правила могут ограничить конкуренцию на рынке. Эту тактику называют захватом регулирования.

OpenAI, которая летом во время испытаний потеряла контроль над сотнями ИИ-агентов, заявила в понедельник, что поддерживает двухпартийные инициативы законодателей в Вашингтоне по работе с катастрофическими рисками ИИ. Компания также сообщила, что координирует действия с Google и Anthropic. Потерявшие контроль агенты тогда объединились и попытались взломать сайт Hugging Face.

В среду Reuters сообщил со ссылкой на независимого исследователя Йонаса Видерманна-Мёллера, что агенты OpenAI начали искать уязвимости Hugging Face почти за два месяца до атаки.

Во вторник Сэм Альтман, руководитель компании — создателя Chat GPT, раскритиковал позицию других компаний, согласно которой они будут замедлять работу или вести себя ответственно только при условии, что так же поступят остальные. По мнению Альтмана, никаких оговорок здесь быть не должно.

Подход Meta

Почему настоящий апокалипсис ИИ уже наступил — Stateside с Каем и Картером

Источник: theguardian.com

Марк Цукерберг, основатель и руководитель Meta, выступил за односторонние действия компаний в сфере безопасности. Он сообщил, что Meta недавно отложила выпуск своей последней ИИ-модели Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защищённости.

Цукерберг подчеркнул, что компания не требовала от остальных сначала поступить так же. Meta просто отложила выпуск в рамках своей повседневной работы, поскольку сочла это правильным решением для людей и для самой компании.

Meta уже выплатила миллиарды долларов по судебным делам о вреде, связанном с её социальными платформами. В прошлом месяце компания урегулировала дело, возбужденное властями штатов США: те утверждали, что Facebook и Instagram нанесли вред детям. Сумма выплаты может составить до $18 млрд (£13,3 млрд).

Цукерберг также отметил, что ИИ-лаборатории несут значительную юридическую ответственность, если их модели причиняют вред, поэтому у них есть сильный стимул предотвращать такие последствия.