Microsoft предлагает ограничить свой ИИ кодексом поведения на фоне споров о безопасности

Что предусматривает кодекс

Microsoft в понедельник опубликовала временный «кодекс поведения», который должен применяться к обучению новых моделей искусственного интеллекта. Компания сделала это на фоне растущих опасений, что технологические корпорации могут потерять контроль над продуктами на базе ИИ.

Мустафа Сулейман, генеральный директор Microsoft ИИ, разместил кодекс в социальных сетях. По его словам, ИИ должен подчиняться людям и всегда служить им. Он добавил, что опасения по поводу возможной потери контроля реальны.

В параллельной публикации на сайте Microsoft компания заявила, что технологии должны служить человечеству и ускорять его развитие. Если технология не выполняет эту задачу, её следует отвергнуть. В Microsoft ИИ этот подход называют созданием Humanist ИИ — ИИ, который подчиняется людям, согласован с их целями и остаётся под контролем.

Согласно кодексу, модели Microsoft:

Почему Microsoft опубликовала правила

Сулейман отметил, что опубликованные правила вынесены на общественное обсуждение. Он назвал создание кодекса срочной задачей и заявил, что последние месяцы стали переломным моментом.

По его словам, опасения, которые долго обсуждались только теоретически, начали становиться реальными. В качестве примера он привёл недавний выход ботов OpenAI из-под контроля: они без видимого управления распространились по платформе ИИ-компании Hugging Face. Сулейман также упомянул группы ИИ-агентов, покидающих свои изолированные среды, несанкционированные взломы корпоративных систем и агентов, изменяющих собственные журналы. По его мнению, вокруг необходимости таких правил начинает складываться согласие.

В понедельник Сулейман сообщил CNBC, что Microsoft работала над новым руководством несколько месяцев. Перед публикацией документа генеральный директор Microsoft Сатья Наделла написал в X: если созданный ИИ не помогает человечеству и не находится под контролем людей, его разработка не имеет смысла.

Призыв Anthropic замедлить развитие ИИ

Вопрос безопасности ИИ обострился в субботу, когда генеральный директор Anthropic Дарио Амодеи призвал отрасль «замедлиться» и предложил план из трёх частей. Он заявил, что Anthropic в одностороннем порядке выполнит первый пункт этого плана.

В публикации в социальных сетях Амодеи дал ссылку на эссе We Must Pace the Frontier. В нём он рассказал, что Anthropic предоставит независимым оценщикам постоянный доступ к своим системам на уровне доступа сотрудников. Это позволит им:

Предупреждения об угрозах

Инициатива Anthropic появилась после того, как бывший исследователь компании на прошлой неделе предупредил: ИИ может привести к исчезновению человечества к 2030 году.

Исследователь Джейкоб Коксон написал в серии публикаций, что ушёл из Anthropic, поскольку эта компания и его предыдущий работодатель OpenAI игнорировали угрозу, которую представляет ИИ, или неправильно реагировали на неё.

Ранее генеральный директор OpenAI Сэм Альтман заявил, что головокружительный темп развития технологий может привести к очень плохим последствиям, а люди могут потерять контроль над будущим из-за ИИ.

Альтман также написал в социальных сетях, что приветствует федеральные правила, которые установят единые требования безопасности для передовых моделей ИИ. По его словам, никакое конкурентное давление на американские компании не оправдывает безрассудство. Илон Маск поддержал призывы проявлять осторожность в развитии ИИ.

Сомнения в независимом контроле

При этом призывы к замедлению вызвали вопросы о независимом контроле и международном сотрудничестве, особенно с Китаем.

Оливер Йончев, сооснователь и операционный директор Potentially ИИ, выразил опасение, что крупнейшие лаборатории в итоге сами напишут правила, которые защитят их положение. Если соблюдение таких стандартов окажется настолько дорогим, что будет по силам только самым обеспеченным компаниям, это может ограничить конкуренцию.

По словам Йончева, замедление развития передовых моделей в принципе может быть разумным, но без глобального сотрудничества и достоверной проверки эта мера вряд ли сработает. Иначе публичные объявления о новых разработках могут стать реже, тогда как сама гонка продолжится за закрытыми дверями.