Сан-Франциско потребовал от Meta перестать «пропускать» рекламу ИИ-насилия над детьми

Во вторник WIRED рассказало, что Meta размещала более 350 таких объявлений. Они превращали неподвижные изображения несовершеннолетних в короткие видеоклипы, где дети могли быть показаны во время сексуальных действий. Среди изображённых были реальные люди, в том числе член европейской королевской семьи.

После нажатия объявления предлагали скачать приложения для генерации изображений и видео. Некоторые из них позволяют цифровым способом «раздевать» людей или создавать другие интимные изображения без их согласия.

Масштаб рекламы

Объявления обнаружили исследователи Tech Transparency Project (TTP). Некоторые одинаковые рекламные материалы загружались несколько раз. В общей сложности они достигли более 29 000 аккаунтов в странах Евросоюза. Реклама показывалась в Facebook, Instagram и Threads, а её аудитория также включала пользователей в США, Австралии и Индии.

В начале августа WIRED сообщило о 53 таких объявлениях. После этой публикации на платформах Meta продолжили работать ещё более 250 объявлений из общего числа.

Городской прокурор Сан-Франциско Дэвид Чиу заявил WIRED, что Meta знала о проблеме рекламы с материалами сексуального характера, созданными ИИ, но не устранила её и при этом получала доход. По его словам, такие объявления причиняют вред реальным детям, а масштаб и продолжительность проблемы не соответствуют заявленной Meta политике нулевой терпимости к эксплуатации детей.

В направленном юристам Meta четырёхстраничном письме Чиу отметил, что компания заявляет о проверке и одобрении всех объявлений до их распространения, а затем получает плату за размещение. Поэтому, по его мнению, рекламная система Meta не должна была допускать использование таким образом.

Письмо содержит вопросы о работе рекламных правил и систем безопасности Meta. Офис прокурора попросил юридических специалистов, сотрудников направления детской безопасности и рекламного подразделения компании провести с ним оперативные обсуждения. Чиу также написал, что результаты проверки выглядят не как единичный сбой, который Meta исправила сразу после первого сообщения о проблеме.

Спор о юрисдикции

Meta заявила, что у неё нет признаков показа этих объявлений в Сан-Франциско, а значит, вопрос находится за пределами полномочий городского прокурора.

Библиотека рекламы Meta содержит некоторые сведения об объявлениях, опубликованных в США, но не показывает, в каких именно регионах страны они демонстрировались.

Представитель офиса городского прокурора Алекс Барретт-Шортер ответил WIRED, что жители Сан-Франциско могут получить доступ к незаконным объявлениям через онлайн-площадки Meta. Поэтому, по его словам, этот вопрос относится к сфере ответственности города.

Барретт-Шортер назвал ответ Meta поразительным: компания, как он считает, больше сосредоточена на том, может ли Сан-Франциско обсуждать проблему, чем на возможной эксплуатации детей через её рекламные системы.

Ответ Meta

Ранее Meta сообщала WIRED, что многие объявления, найденные исследователями TTP, были удалены ещё до обращения журналистов. Сейчас удалены все объявления из этой выборки: компания сочла их нарушающими правила.

Большинство объявлений получили менее 200 показов от аккаунтов. Представитель Meta также заявлял, что компания не допускает приложения для цифрового «раздевания» и любые формы эксплуатации детей — независимо от того, созданы материалы обычными средствами или ИИ.

По данным Meta, общий рекламный бюджет более чем 300 объявлений, обнаруженных исследователями, составил менее $5 000.

Чего требует городской прокурор

В письме говорится, что офис городского прокурора изучил многие объявления из выборки TTP. От Meta потребовали:

По мнению офиса прокурора, результаты проверки указывают на более широкие системные проблемы в обнаружении признаков сексуального насилия над детьми в рекламе. Они также создают для Meta серьёзные юридические вопросы.

Цель офиса, написал Чиу, состоит не только в выявлении уже допущенных ошибок. Он требует, чтобы Meta создала системы, предотвращающие сексуальную эксплуатацию детей в рекламе, за распространение которой компания получает деньги, и надёжно выполняла юридические обязанности после обнаружения признаков такого насилия.

Задержки при удалении

Согласно выводам исследователей TTP, в некоторых случаях Meta не отвечала на сообщения о вредоносных объявлениях больше недели. За это время их успевали увидеть ещё сотни человек.

По данным TTP и проверки библиотеки рекламы Meta, после удаления некоторые объявления сначала не помечались как содержащие материалы сексуального насилия над детьми.

В письме Чиу говорится, что масштаб, продолжительность и характер выявленных проблем показывают: отдельных удалений недостаточно. Офис городского прокурора потребовал от Meta ответить в течение 28 дней.

Правила Meta

Стандарты сообщества и рекламные правила Meta запрещают сексуальную эксплуатацию, насилие и обнажение детей, а также эксплуатацию и обнажение взрослых. Компания также запрещает рекламу приложений для цифрового «раздевания».

Согласно рекламным стандартам Meta, все объявления проверяются на соответствие правилам с помощью автоматических систем, а иногда и вручную. Ранее компания удаляла сотни тысяч объявлений, рекламировавших такие приложения.

Несмотря на меры против приложений для цифрового «раздевания», исследователи продолжают находить тысячи объявлений, ведущих к вредоносным приложениям и содержащих сексуальные действия или обнажение.

Meta подала в суд на компанию из Гонконга, связанную с одной из групп подобных платформ, и сотрудничала с другими технологическими компаниями. Однако во время работы над материалом о находках TTP WIRED обнаружило сотни новых рекламных объявлений с «раздеванием», которые продолжали работать на платформах Meta.

Новые объявления

Директор TTP Кэти Пол заявила, что Meta не справляется с проблемой: по состоянию на среду на её платформах всё ещё появлялись объявления с материалами сексуального насилия над детьми.

По словам Пол, после публикации отчёта TTP 8 сентября появились новые объявления с некоторыми из тех же детей, чьи изображения организация уже отправляла Meta. TTP сообщила об этих объявлениях Meta и NCMEC; часть из них к тому моменту уже удалили.

На вопрос WIRED о новых объявлениях Meta сразу не ответила. Кэти Пол добавила, что результаты проверки показывают: компания по-прежнему не устраняет эту проблему должным образом.

Обновлено 9 сентября 2026 года в 18:00 по восточному времени: добавлен комментарий офиса городского прокурора Сан-Франциско.