Сотни подрядчиков OpenAI читают ваши разговоры в ChatGPT

404 Media получила внутренние документы OpenAI и поговорила с дополнительными источниками. Один из проверяющих признался изданию, что, по его мнению, пользователи не знают о чтении переписок людьми.

Просматриваемые запросы это подтверждают: некоторые пользователи явно просили ChatGPT не раскрывать содержание разговоров. Хотя запросы обезличены, в них всё ещё могут оставаться чувствительные персональные данные. OpenAI использует фильтр конфиденциальности, но признаёт, что тот способен ошибаться.

Подрядчиков находят через Crossing Hurdles, которая называет себя площадкой для связи квалифицированных специалистов с будущей работой в сфере ИИ. Выплаты идут через компанию по обучению ИИ Mercor. Один проверяющий из Северной Америки сообщил, что получает больше $50 в час.

Пользователь может отключить настройку «Улучшать модель для всех», чтобы новые чаты не использовались для обучения моделей и потенциально не попадали к проверяющим. Эта настройка действует только на новые разговоры. Есть и режим временного чата: OpenAI утверждает, что входные данные из него не применяются для обучения моделей.

Людей упоминают только в FAQ

Когда 404 Media спросила OpenAI, где именно пользователей прямо предупреждают о проверке разговоров людьми, компания сначала не ответила. На странице с часто задаваемыми вопросами OpenAI сообщает, что уполномоченные сотрудники и поставщики услуг могут просматривать данные пользователей для улучшения работы моделей. Там же компания советует не вводить чувствительную информацию.

Это уведомление находится на сайте как минимум с 2023 года и за прошедшие годы менялось лишь незначительно. 404 Media считает, что информация спрятана слишком глубоко и сформулирована слишком расплывчато, чтобы пользователи понимали реальный масштаб проверки переписок. Название настройки «Улучшать модель для всех» больше похоже на дружеское предложение помочь сообществу, чем на согласие с чтением разговоров людьми.

По мнению издания, такая расплывчатая формулировка может быть продуманной: если бы OpenAI запрашивала явное согласие, доля пользователей, отказавшихся от участия, вероятно, оказалась бы высокой.

Для лабораторий, разрабатывающих ИИ, отзывы людей остаются важной частью улучшения моделей. Такая практика распространена и в других компаниях. Anthropic подтвердила 404 Media, что использует проверяющих для оценки ответов Claude и улучшения будущих моделей. Это касается пользователей, у которых в настройках конфиденциальности включена опция «Помогать улучшать наши модели ИИ». Перед проверкой Anthropic также обезличивает разговоры, удаляя данные аккаунта, включая адреса электронной почты.

Google тоже привлекает людей к проверке и указывает в Gemini, что сотрудники могут просматривать сохранённые чаты.