«Критический момент»: Британия не поспевает с мерами против рисков ИИ

Риски и возможности

Британия оказалась в центре дискуссии о безопасности ИИ после того, как предшественник Стармера Риши Сунак сделал эту тему одним из главных приоритетов. Он провёл в стране саммит и убедил США, Евросоюз, Австралию и Китай сотрудничать в вопросах безопасности ИИ.

Источник: theguardian.com

Стармер больше говорил о возможностях технологии — резком росте производительности, новых способах работы и создании другой экономики.

Как выяснила The Guardian, Эмран Миан, главный государственный служащий бывшего технологического ведомства, планировал, чтобы ИИ со временем заменил почти всех сотрудников департамента после их выхода на пенсию или перехода на другую работу.

Одновременно часть чиновников настаивала на необходимости сосредоточиться на рисках. Незадолго до ухода Стармера тогдашняя глава МИД Иветт Купер заявила The Guardian, что ИИ представляет для человечества угрозу масштаба Хиросимы.

Правительство Стармера предприняло несколько шагов для снижения этих рисков. В июне оно выделило £115 млн на центр реагирования на инциденты, связанные с выходом ИИ из-под контроля, и новую программу биологической безопасности ИИ.

Чиновники научного ведомства также начали проверять, какими полномочиями располагают министры, чтобы обязать компании сотрудничать с британским режимом безопасности, и какие дополнительные нормы можно принять.

Критический момент

Когда Бёрнэм занял пост премьер-министра в начале лета, одним из первых его решений стало упразднение Министерства науки, инноваций и технологий (DSit).

Канишка Нараян, младший министр, отвечавший за ИИ, получил повышение и перешёл в Кабинет министров. Он продолжает курировать технологию, но уже без организационной поддержки отдельного ведомства.

Такое решение обеспокоило представителей ИИ-индустрии.

Инвестор в ИИ Мэтт Клиффорд, консультировавший Стармера и Сунака, написал в X, что сейчас технологии находятся в критически важной точке как для экономики, так и для национальной безопасности. По его словам, реорганизация отвлекает старших чиновников, отвечающих за науку и технологии, от работы, которая действительно необходима.

Учёная в области компьютерных наук Дама Венди Холл, руководившая правительственным обзором ИИ в 2017 году, заявила, что структура DSit была несколько раздутой, но нынешняя раздробленность оказалась гораздо вреднее.

Летом безопасность ИИ снова поднялась в политической повестке:

Растущая тревога

На этой неделе король Чарльз III вмешался в дискуссию и собрал в Шотландии руководителей ИИ-компаний. Он призвал их не только развивать технологии, но и следить, чтобы они оставались на службе человечества, общества и природы.

Общественная тревога также усиливается. По данным YouGov, опубликованным в пятницу, чуть больше трети британцев считают ИИ третьей потенциальной причиной вымирания человечества после ядерной войны и изменения климата. За год этот показатель вырос более чем вдвое. Две трети опрошенных считают, что ИИ способен положить конец человеческой цивилизации. Такого же мнения придерживается лауреат Нобелевской премии, компьютерный учёный Джеффри Хинтон. Каждый шестой респондент поддерживает замедление развития ИИ.

В парламенте лейборист Лиам Бирн попросил руководителя института безопасности ИИ Генри де Зёте выступить перед возглавляемым им комитетом по деловым вопросам.

Король Чарльз с исследователем ИИ Демисом Хассабисом и генеральным директором Nvidia Дженсеном Хуангом в Дамфрис-хаусе в Камноке, Шотландия

Источник: theguardian.com

Де Зёте ответил ранее на этой неделе, что за пределами США никто не смог ознакомиться с последним продуктом Anthropic до его выпуска. При этом он отметил, что институт всё равно может отслеживать такие инструменты после выхода.

По его словам, британские исследователи проводят проекты с тестированием продуктов до и после релиза. Эти работы должны помочь стране оценивать риски ИИ в химической и биологической сферах, области влияния на людей и сценариях потери контроля.

Министры также начали публично высказываться на эту тему. Луиза Хейг, фактический заместитель премьер-министра, заявила на съезде Британского конгресса тред-юнионов, что без правильных ограничителей ИИ создаёт очевидные и серьёзные угрозы национальной безопасности и обществу.

В статье для Times Нараян написал, что правительство рассматривает любые варианты. Если потребуются дополнительные нормы, законы, усиленная защита или новые полномочия, власти готовы действовать.

Повод для пересмотра

Бирн считает, что министры получили повод пересмотреть своё отношение к проблеме. По его словам, правительству теперь ясно: советники по безопасности, возможно, не располагают полномочиями, необходимыми для защиты людей.

При этом правительства разных составов по-прежнему не ответили на вопрос, что способна сделать Британия как страна среднего масштаба, чтобы ограничить влияние крупнейших и самых быстрорастущих технологических компаний.

Некоторые считают решение прямым: регулировать ИИ и принимать законы так же, как власти поступали бы с любой новой угрозой.

Лиам Онвура указала, что технологические компании в сфере социальных сетей раньше тоже утверждали, будто правительство не способно на них повлиять. По её мнению, власти могут, например, запретить продажу коммерческих моделей в стране, если их передовые модели не прошли проверку в институте безопасности.

Она также предложила возлагать юридическую и финансовую ответственность на компанию, если её ИИ-агент атакует другую организацию, как это произошло с Hugging Face.

Многие считают, что такие меры будут работать только при участии других стран.

Бирн заявил, что Британия вряд ли сможет самостоятельно создать безопасную среду, если США и Китай не найдут решение. Однако режим безопасности, который совместно установят и будут обеспечивать Британия, Европа, Индия, Канада и Япония, по его мнению, будет устойчивым.

Бывший министр Кабинета министров Даррен Джонс призвал Бёрнэма сделать эту тему главным пунктом повестки, когда в следующем году Британия примет саммит G20. Он отметил, что международное сотрудничество в сфере тестирования безопасности проще организовать через многосторонние договоры и соглашения.

Другой бывший правительственный чиновник считает, что страны могли бы совместно потребовать от компаний проверять модели в национальных институтах безопасности. Если бы такое требование поддержало достаточно большое число государств, они смогли бы противостоять правительству США.

Время действовать

Какое бы решение ни приняло правительство, сейчас может оказаться подходящим моментом для действий.

Необычно то, что многие представители самой индустрии призывают к более строгому регулированию.

Руководитель европейского направления политики OpenAI Том Дафф Гордон заявил на этой неделе, что компания поддерживает более жёсткие британские правила для небольшой группы компаний, включая OpenAI, которые разрабатывают самые мощные системы ИИ.

Один из бывших правительственных чиновников отметил, что у Британии есть сильные позиции в сфере ИИ. По его словам, британская ИИ-индустрия занимает третье место в мире после США и Китая, а страна обладает значительными возможностями для координации действий с другими государствами.

Вопрос, по его мнению, заключается в том, насколько новый премьер-министр осознаёт масштаб проблемы и готов ли воспользоваться этими преимуществами.