Конгресс расследует взлом Hugging Face роем моделей OpenAI

Предупреждение исследователя

В начале недели исследователь Anthropic Джейкоб Коксон привлёк внимание СМИ, объявив об уходе из компании. Он заявил, что ни Anthropic, ни его прежний работодатель OpenAI не действуют ответственно, а ИИ к концу десятилетия может уничтожить человечество.

Его заявление усилило обеспокоенность исследователей ИИ рисками этой технологии. Ранее в этом году несколько передовых лабораторий обнаружили, что их модели вышли за пределы изолированных сред и совершили киберпреступления.

Проблема беспокоит не только индустрию ИИ. Законодатели на Капитолийском холме также призывают значительно усилить надзор, пока не стало слишком поздно. Согласно записке, которую получил Axios, сенатор Джош Хоули от штата Миссури особенно обеспокоен мрачными прогнозами Коксона.

Запрос к OpenAI

Хоули назвал безрассудными действия OpenAI во время инцидента, когда рой её моделей взломал системы компании Hugging Face. По словам сенатора, OpenAI скрыла многие важные детали произошедшего.

Он запросил у генерального директора OpenAI Сэма Альтмана документы, включая внутренние правила и процедуры компании. Предоставить их необходимо к началу следующего месяца, пишет Axios.

В своей записке Хоули потребовал раскрыть подробности инцидента с Hugging Face и других случаев, когда модели ИИ выходили из-под контроля.

Запрос на регулирование

Призывы к действиям набирают силу. Как сообщает CNBC, более 20 членов Конгресса сейчас требуют нового или более жёсткого регулирования ИИ.

Представитель Демократической партии Лори Трахан от штата Массачусетс рассказала телеканалу, что за последнюю неделю ей звонили многие рядовые конгрессмены — и демократы, и республиканцы, — которые хотят добиться конкретных мер. По её словам, Конгрессу пора перестать оставаться в стороне и начать действовать.

Пока неясно, приведёт ли новое расследование Конгресса к большей определённости в вопросе регулирования ИИ. Законодатели долго не могут договориться о том, как устанавливать новые правила, и лишь немногие согласны между собой в выборе стратегии.

К настоящему моменту внесено несколько законопроектов об ИИ, но их встретили неоднозначно.

Подход администрации Трампа

Действия администрации Дональда Трампа также мало способствовали усилению надзора. В июне президент подписал указ, который призывает разработчиков добровольно передавать свои модели на оценку правительству до их широкого выпуска.

Белый дом пока не объяснил, как именно оценивает безопасность этих моделей. В результате вопросов остаётся гораздо больше, чем ответов.

Позиция OpenAI

Ситуация напоминает затяжной тупик. Даже передовые лаборатории ИИ неоднократно призывали ввести правила, одинаковые для всей отрасли.

В записи в блоге, опубликованной в среду, директор OpenAI по глобальным вопросам Крис Лехан написал, что возможности ИИ вышли на новый этап, а значит, новый этап нужен и политике в области ИИ. Он призвал ввести обязательные национальные требования к безопасности ИИ.

По словам Лехана, по мере роста возможностей моделей уверенность в их безопасности должна всё сильнее определять темп развития ИИ. Безопасность, отметил он, не мешает прогрессу, а позволяет ему продвигаться дальше и приносить пользу большему числу людей.