Отключить алгоритмы недостаточно: техногигантам нужна обязанность заботиться о пользователях при создании затягивающего дизайна

Почему отказ от алгоритма не поможет

Цифровая обязанность заботиться о пользователях — это гораздо больше, чем возможность отказаться от «алгоритма». После упрощённого и местами неработающего запрета на соцсети для детей младше 16 лет нельзя позволить правительству принять ещё одну популистскую меру, которая хорошо выглядит на поверхности, но не затрагивает суть проблемы.

Технологические компании должны отвечать за безопасность пространств, которые они создали.

Как и запрет соцсетей по возрасту, а также недостаточные усилия правительства в сфере рекламы азартных игр, отказ от алгоритмических рекомендаций оставляет ответственность на потребителе. Это только один элемент системы, необходимой для управления ситуацией, в которой «алгоритм» уже влияет на устройство мира.

Кампания Шанель Контос «Исправим наши ленты» привлекла необходимое внимание к воздействию алгоритмов. В частности, речь идёт об онлайн-мизогинии и сексуальном насилии, нормализации порнографии и удушения во время секса.

В выступлении в Национальном пресс-клубе в Канберре в четверг защитница сексуального согласия заявила, что крупным технологическим компаниям слишком легко создавать схемы, которые выглядят как структурная реформа, но на деле полностью их устраивают.

По её словам, одного контроля пользователей над тем, с каким контентом их знакомит алгоритм, недостаточно для настоящей ответственности — особенно если человеку ещё и приходится самому отказываться от этой системы.

Как работает «алгоритм»

«Алгоритм» — это набор систем, которые, среди прочего, составляют профиль пользователя, а затем используют его привычки, чтобы удерживать человека в бесконечной прокрутке. Такой подход создаёт условия для серьёзного общественного вреда, последствия которого уже проявляются в реальном времени.

Он выражается в нескольких тенденциях:

Вернуть хотя бы часть «информационного суверенитета» — то есть возможность влиять на происходящее в цифровой среде — можно с помощью обязательной и обеспеченной законом обязанности крупных технологических компаний заботиться о пользователях.

Это становится всё более срочным вопросом: ИИ развивается практически ежеминутно, а правительства пытаются справиться с новыми разработками, которыми не умеют управлять. В противостоянии крупных технологических компаний и общества заранее понятно, кто обычно выигрывает. Умные очки — лишь последний пример сложной дискуссии, которая одновременно даёт возможность изменить правила.

Обновление давно устаревших законов о конфиденциальности вместе с введением закреплённой законом и обязательной цифровой обязанности заботиться о пользователях стало бы серьёзным шагом вперёд.

Что предусматривал законопроект

В 2024 году Зои Дэниел внесла в федеральный парламент законопроект частного члена парламента о цифровой обязанности заботиться о пользователях. Документ был подготовлен с опорой на наиболее эффективные нормы законодательства Великобритании и Евросоюза.

Как говорилось во вступительной речи к законопроекту, его основная цель — заставить платформы сделать свои пространства безопасными для пользователей, детей и местных сообществ.

Такая обязанность была бы не только справедливой, но и необходимой. Она охватывала бы все системы, процессы и элементы цифрового сервиса, включая «тёмные шаблоны» — интерфейсные решения, подталкивающие человека к определённому действию, — и функции, формирующие зависимость.

Законопроект предусматривал:

Иными словами, законопроект предусматривал реальные механизмы принуждения.

Ответственность за системы

Речь здесь в меньшей степени идёт о самом контенте и в большей — о системах, которые управляют его распространением. Старый подход, при котором отдельные материалы удаляют по одному, бесконечно реагируя на новые нарушения, не решает проблему.

Хорошо работающая обязанность заботиться о пользователях защищала бы всех — независимо от того, отказался человек от алгоритма или нет. Платформы пришлось бы отвечать за устройство своих систем и за связанные с ним риски для эмоционального благополучия, политического и социального единства, а также за функции, формирующие зависимость.

В такую систему можно было бы включить и борьбу с ложной и намеренно вводящей в заблуждение информацией. Но это снова вызвало бы привычный спор о свободе слова, тогда как изменения культуры и общества, которые беспрепятственно навязывают Марк Цукерберг, Илон Маск и другие руководители технологических компаний, уже принимаются как данность.

Проблема заключается в суверенитете информационной среды и в том, что людьми управляют созданные компаниями системы, а не наоборот.