Раскол на левом фланге вокруг угрозы гибели человечества от ИИ

Спор начался с публикации в Instagram

10 сентября, через два дня после того, как исследователь Джейкоб Коксон, недавно ушедший из Anthropic, предупредил о возможном конце человечества из-за действий ИИ-индустрии, Нью-Йоркское отделение демократических социалистов Америки опубликовало в Instagram серию изображений.

На первом слайде был изображён уроборос — дракон, кусающий собственный хвост, — на ярко-розовом фоне. В подписи говорилось, что алармизм вокруг ИИ и шумиха вокруг ИИ рассказывают одну и ту же историю: оба подхода удерживают внимание на научно-фантастическом будущем и отвлекают от реального вреда, который люди испытывают уже сейчас.

Публикацию подготовила рабочая группа Tech Action Working Group, занимающаяся вопросами регулирования технологий в нью-йоркском отделении DSA — крупнейшем отделении организации в США. Запись собрала более 25 000 отметок «нравится» в Instagram. Однако согласились с ней не все. Один из комментаторов назвал позицию ужасной и опасной и отметил, что иногда предупреждать об угрозе действительно необходимо.

Пока политики пытаются разобраться в безопасности ИИ, на американском левом фланге формируется идеологический раскол. В центре спора — вопрос о том, стоит ли верить заявлениям технологических компаний, что их продукты настолько мощны, что способны уничтожить мир.

Часть левых сомневается, что теоретическим угрозам ИИ нужно уделять больше внимания, чем уже существующему вреду. По их мнению, повторение тезисов передовых лабораторий об опасности ИИ усиливает сами компании: внимание переключается с регулирования нынешних последствий технологии на невозможное для проверки будущее.

Алан Дэн, участник Tech Action, заявил WIRED, что ИИ стал очередным инструментом капиталистической эксплуатации, а последствия нерегулируемого и неправильного использования технологии уже заметны по всей стране. По его словам, социалисты не доверяют корпорациям разработку правил для самих себя.

Две стратегии регулирования

Другие представители левого движения следуют позиции сенатора Берни Сандерса, неформального лидера американских левых. Он активно занялся вопросами безопасности ИИ и утверждает, что технология способна привести к уничтожению человечества. Его сторонники считают, что нынешний и будущий вред можно рассматривать одновременно.

Александр Маккой, демократический политический стратег, работающий с вопросами ИИ, заявил, что люди, обеспокоенные регулированием передовых моделей и созданием сверхинтеллекта, одновременно занимаются и уже существующими проблемами. По его словам, необходимо учитывать все эти факторы: способности передовых систем реальны и продолжают расти, поэтому их нельзя списывать на выдумку или шумиху.

За последний год Сандерс активно погрузился в тему безопасности ИИ. Он перенёс дискуссии, которые раньше велись преимущественно в кругах Кремниевой долины, в Вашингтон и к своей широкой популистской аудитории.

В возрасте 85 лет Сандерс одним из первых среди политиков левого фланга выступил сразу по двум связанным вопросам:

Представленный в марте законопроект Сандерса о моратории на дата-центры прямо связывал остановку строительства с необходимостью принять федеральное регулирование для защиты будущего человечества.

Такая позиция привела Сандерса к необычным союзникам — в первую очередь к Стиву Бэннону, бывшему советнику президента Дональда Трампа и ведущему подкаста, придерживающемуся правопопулистских взглядов.

Она также, по-видимому, повлияла на риторику левых кандидатов по всей стране. Многие из них связали более широкие опасения вокруг ИИ с протестами против дата-центров. 9 сентября, за день до публикации нью-йоркского DSA, шесть кандидатов, связанных с Working Families Party, включая четырёх, которых поддержал Сандерс, выпустили заявления о необходимости регулировать ИИ в Вашингтоне, чтобы предотвратить экзистенциальные угрозы человечеству.

Эта позиция вызвала критику как публично, так и внутри левых кругов. Исследователь ИИ и критик технологической индустрии Тимнит Гебру обвинила Сандерса и других левых в том, что они ориентируются на идеи буквально апокалиптических евгенических культов. Речь шла о философии эффективного альтруизма и рационализма, которая лежит в основе многих дискуссий о безопасности ИИ в Кремниевой долине.

Действия Сандерса также вызвали недовольство в некоторых левых организациях. Один из участников нью-йоркского DSA с опытом работы в технологической сфере задался вопросом, что произошло с Берни.

Кому выгоден разговор об угрозах

Румман Чоудхури, генеральный директор и основатель некоммерческой организации Humane Intelligence, понимает опасения рабочей группы DSA. Ранее она руководила командой по этике, прозрачности и подотчётности машинного обучения в Twitter.

Чоудхури считает, что всё внимание, которое получает дискуссия о безопасности ИИ, в конечном счёте может оказаться выгодным передовым лабораториям. По её мнению, компании привлекают внимание, время, энергию и деньги, выдвигая крайне радикальные взгляды, а затем возвращаются к позиции, близкой к позиции критиков, одновременно обесценивая их экспертизу.

Она также считает, что большинству людей трудно представить логику венчурных капиталистов и инвесторов: чем более страшными и фантастическими руководители делают свои компании, тем сильнее инвесторы хотят вложиться в них.

Для компаний, особенно OpenAI и Anthropic, которые рассчитывают выйти на биржу в ближайшие годы, нынешнее внимание к их продуктам и связанная с ним проверка тоже могут оказаться выгодными в долгосрочной перспективе.

Чоудхури объяснила, что подготовка к первичному размещению акций требует раскрывать большой объём документов о рисках и способах их устранения. Благодаря этому компании смогут заявить, что участвуют в создании полноценного режима регулирования отрасли, призванного защитить от самых опасных сценариев, а также что все участники заранее определили, какие именно риски считать худшими.

Что происходит на местах

Прагати Барусубраманиан входит в рабочую группу Tech Action нью-йоркского DSA и руководит организацией протестов против дата-центров. В начале года эта работа принесла заметный результат: Нью-Йорк принял годичный мораторий на их строительство.

Барусубраманиан считает, что в разговоре о регулировании ИИ существует разрыв между участниками по вопросу о том, какой вред сейчас нужно считать наиболее срочным. По её словам, когда речь заходит о происходящем на местах, разговор об экзистенциальных рисках почти не возникает. Вместо этого люди исходят из того, что компании, создающие ИИ и дата-центры, не защищают их интересы.

Маккой, консультирующий нескольких кандидатов в Конгресс по вопросам ИИ, утверждает, что настоящего раскола среди лидеров американских левых нет. Он отметил, что несколько участников DSA, включая мэра Нью-Йорка Зорана Мамдани, недавно выступили с заявлениями о предупреждениях Коксона и взломе Hugging Face.

По мнению Маккоя, Гебру и близкие ей критики занимают маргинальную и нетипичную для движения позицию, а само различие между нынешним и будущим вредом проводить не нужно. Он считает, что регулировать следует и такие проблемы, как слежка и камеры Flock, и другие последствия ИИ, не отказываясь при этом от управления возможностями передовых моделей.

Фил Аронеану, исполнительный директор Irreplaceable — организации левого толка, выступающей за безопасность ИИ, — связывает свою позицию с опытом климатического активизма. Он считает, что необходимо и возможно одновременно заниматься уже существующим и непосредственным вредом ИИ, а также будущими угрозами. Маккой помог основать Irreplaceable, предоставив организации первоначальное финансирование через Center for ИИ Safety.

Аронеану сравнил эту ситуацию с климатическим движением: оно одновременно говорит о прямых последствиях добычи ископаемого топлива, например о затоплении домов из-за штормов, усиленных изменением климата, и о долгосрочных рисках и выбросах, на которых сосредоточено более широкое движение.

Сандерс и Окасио-Кортес

Сандерс и представительница Нью-Йорка Александрия Окасио-Кортес тоже не выглядят полностью согласными друг с другом.

Окасио-Кортес стала соавтором законопроекта Сандерса о моратории на дата-центры и включила в собственную версию документа для Палаты представителей формулировку об угрозе ИИ для человечества. Однако она не участвовала в заметных дискуссиях о безопасности ИИ, в которых выступал Сандерс.

Сандерс называл ИИ самой преобразующей технологией в истории мира. Окасио-Кортес пока чаще говорила о дата-центрах, возможной потере рабочих мест и риске того, что индустрия создаёт пузырь.

На вопрос журналиста о безопасности ИИ на прошлой неделе Окасио-Кортес заняла осторожную позицию. Она заявила, что два утверждения могут быть истинными одновременно: ИИ способен быть очень опасным при разработке без каких-либо ограничений, а экономика может столкнуться с технологическим прорывом в момент существования экономического пузыря.

За какие правила бороться

По мере того как разговор о безопасности ИИ быстро закрепляется в Вашингтоне и законодательных собраниях штатов, главный вопрос для левых теперь заключается не в том, поддерживать ли регулирование ИИ, а в том, на какие именно правила направить время и ресурсы движения.

Алан Дэн рассказал WIRED, что рабочая группа Tech Action выступает за комплексное регулирование ИИ и технологий на федеральном уровне, уровне штатов и уровне городов. Оно должно включать регулирование передовых моделей и одновременно противодействовать уже существующим способам применения корпоративного ИИ.

В DSA сейчас рассматривают резолюцию, которая предлагает организации поддержать законопроект Сандерса и представителя Грега Касара о полном запрете сверхинтеллекта. Передовые лаборатории едва ли согласились бы с такой инициативой.

При этом идеологические разногласия внутри DSA могут оказаться не столь значимыми, когда слово получат избиратели. Опрос Politico, опубликованный в среду, показал: двое из трёх американцев считают, что ИИ хотя бы в некоторой степени способен уничтожить человечество.

Барусубраманиан заявила, что, как минимум, рада тому, что теперь об ИИ говорят все.