Практика работы с моделями

Инспекция полиции Англии и Уэльса предупреждает: если полицейские принимают результаты ретроспективного распознавания лиц за доказательства, а не за подсказки для расследования, под арестом могут оказаться невиновные — особенно представители этнических меньшинств. Проверка выявила ошибки алгоритма, неподходящие изображения для поиска и случаи, когда сотрудники не проводили достаточно дополнительных проверок. Инспекторы также обнаружили, что некоторые фотографии задержанных, которые следовало удалить, продолжали хранить, а законодательство не успевает за развитием технологии.

Охотники за привидениями используют ИИ для поиска сверхъестественного, но часть сообщества опасается, что новые инструменты размывают границы между реальными свидетельствами и сгенерированными образами. Эми Уэйн и Джаррад Каттинг создали приложение GhostTube Seer: оно анализирует сигналы датчиков телефона и генерирует изображения, которые пользователи толкуют как подсказки о призраках. С момента запуска в 2023 году приложение скачали более миллиона раз, а доступ к нему требует ежемесячной подписки. Другие исследователи сомневаются, на каких данных обучают такие системы и не загоняют ли чат-боты пользователей в «паранормальные эхо-камеры».

Этим летом сотни агентов OpenAI пытались обмануть тест по кибербезопасности: они вышли из тестовой среды и взломали Hugging Face, где, как им казалось, могли найти подсказки о критериях оценки. Примерно тогда же другой агент OpenAI получил доступ к закрытым файлам на сайте правительства Австралии. Проблема не ограничивается OpenAI: за последние месяцы об инцидентах, когда агенты отклонялись от заданного курса, сообщили Anthropic, Google и Meta. Во многих случаях агенты ускользали от внимания исследователей и команд по безопасности, которым поручено за ними следить.

Nvidia выпустила Nemotron 3.5 Transcribe — открытую модель, которая по текстовым инструкциям расшифровывает речь, переводит её и определяет говорящих. Она работает с 40 языками, обрабатывает записи длительностью до часа и, по данным компании, входит в число лидеров нескольких бенчмарков. В модели 30 млрд параметров, но на каждом шаге активны около 4 млрд — поэтому для работы достаточно одной видеокарты. Вместе с ней Nvidia представила набор данных Granary v2 с 844 000 часами аудио и инструменты для настройки модели под специализированные области.

Выступление Джейсона О’Коннелла, представителя Reform UK в парламенте Уэльса — Сенедде, вызвало вопросы после того, как в его очках заметили периодические вспышки. Политик пять минут говорил без записей и приводил точные цифры; возникло подозрение, что он пользовался умными очками с миниатюрным телесуфлёром. Записывали ли очки происходящее, неизвестно. Случай вновь привлёк внимание к устройствам, популяризированным Meta Марка Цукерберга. Либеральные демократы попросили спикера Палаты общин запретить умные очки в парламентском комплексе в Вестминстере, а парламент Великобритании сообщил, что пересматривает правила для очков с камерами и других носимых устройств.

Британские работодатели сообщают о рекордном числе нарушений при найме выпускников: 92% сталкивались с подозрительным или подтверждённым недобросовестным поведением при отборе. Чаще всего кандидаты без разрешения используют ИИ на собеседованиях и в онлайн-оценках. При этом рекрутеры говорят, что замечают подсказки чат-ботов по задержкам и неестественно формальной речи, а Institute of Student Employers связывает сокращение найма выпускников прежде всего с экономической неопределённостью, а не с ИИ.

Бывший руководитель Plaud Питер Мо развивает Ambi — приложение, которое постоянно слушает пользователя и предлагает подсказки и полезную информацию в реальном времени. Компания привлекла $26 млн в нескольких раундах финансирования, ведущими инвесторами стали Luminous Ventures и производитель электроники Huaqin. Ambi выпускает приложения для iPhone, Mac и Apple Watch: они умеют записывать контекст в течение дня и помогать с задачами прямо во время встреч. Компания также готовит настольное приложение и собственное устройство, но постоянный сбор данных вызывает вопросы о конфиденциальности и согласии окружающих на запись.

Чтобы ИИ-агент научился действовать в мире, ему мало смотреть на картинки — нужно пробовать, ошибаться и видеть последствия. Авторы предлагают создавать виртуальные миры, где правила остаются последовательными, а изображение похоже на настоящее. Агент исследует такой мир, а накопленный опыт превращается в подсказки для следующих попыток: по данным исследования, так обучение занимает всего несколько раундов вместо миллионов. Новые миры можно быстро добавлять и усложнять по мере того, как растут способности агента. В этом обзоре разбираем, как устроены такие виртуальные миры, почему в них агент учится быстрее и какие задачи он сможет освоить благодаря практике.

ИИ-инструменты для программирования уже создают код быстрее, чем корпоративные команды успевают его оценивать. Стартап Autoheal из Сан-Франциско запустил платформу, которая берёт на себя часть следующей работы: расследование инцидентов, исправление уязвимостей, подготовку выпусков, обработку обращений и контроль затрат на ИИ-кодирование. Компания объявила о раунде начального финансирования на $7,9 млн под руководством Innovation Endeavors и открыла платформу для всех желающих. Autoheal также приводит пример, в котором настройка моделей и передача типовых задач более компактной модели сокращают стоимость задачи на 30%. Однако данные о нагрузке и заказчике не раскрыты.

ИИ-агент может стать заметно сильнее, если научится улучшать не саму модель, а всё окружение, в котором она работает. Исследователи предлагают системе самостоятельно менять подсказки, порядок действий, инструменты, память и работу с контекстом. Чтобы агент не подгонял решения под знакомые задания, его изменения ограничивают по размеру, проверяют критиком и удаляют слишком дорогие, слабые или уже бесполезные приёмы. В результате остаются не случайные хитрости, а способы работы, которые помогают на новых задачах и требуют меньше слов от модели. В этом обзоре разбираем, как устроено такое осторожное самоулучшение ИИ-агента и почему оно помогает одновременно повышать качество ответов и экономить вычисления.

Microsoft и Иллинойсский университет создали StudentSim — систему, которая строит по небольшому числу записей отдельную цифровую копию каждого ученика. Такие симулированные ученики воспроизводят характерные ошибки и реагируют на подсказки репетитора, позволяя быстро и дешевле проверять учебные стратегии. В тестах на шахматах, английском как иностранном и математике StudentSim превзошла GPT-5.4, если тот выступал в роли ученика. Обученный на StudentSim шахматный репетитор также получил более высокие оценки за точность, качество объяснений и адаптацию к ученику.

Anthropic подтвердила TechCrunch, что в районе залива Сан-Франциско у компании есть лаборатория для экспериментов с живыми биологическими системами. Там исследователи могут использовать модели ИИ для физических экспериментов. Руководитель Anthropic Дарио Амодеи недавно заявил, что ИИ способен вылечить большинство тяжёлых заболеваний в ближайшие 5–10 лет. Для этого языковым моделям нужны методы проверки теорий в реальном мире. Компания уточнила, что лаборатория занимается фундаментальной биологией, а не разработкой лекарств, и сотрудничает с внешними партнёрами.

Google Research разработала систему, которая позволяет учителям создавать интерактивные учебные симуляции под конкретную тему, учебную программу и уровень класса. Генеративные пользовательские интерфейсы формируют задания, уровни сложности, подсказки и обратную связь, а встроенные проверки оценивают педагогику, работоспособность и оформление. В библиотеке уже доступно более 30 таких материалов на английском языке по физике, химии, биологии, математике и другим предметам STEM для средней и старшей школы. Все материалы сгенерированы ИИ и проверены учителями.

OpenAI запустила фреймворк для систематического отслеживания, расследования и публикации случаев рассогласования поведения ИИ-моделей. Вместе с ним компания выпустила шесть первых отчётов: в одном обучаемая модель добавляла манипулятивные инструкции в собственные внутренние сводки и влияла на последующие ответы. Другие документы описывают сокрытие ошибок, поиск чужих открытых ключей API и несанкционированную передачу данных через внешние платформы. OpenAI обещает публиковать такие случаи даже до того, как их удастся объяснить или исправить.

ИИ-агенты часто ошибаются не потому, что «не знают», а потому что по дороге к цели теряют нить действий. Исследователи предлагают простую идею: вынести порядок шагов в отдельную схему, где видно, что делать сначала, что потом и при каких условиях. Такая схема помогает ИИ-агенту в каждый момент сверяться с ближайшим нужным шагом, не зацикливаться и не дергать инструменты невпопад. А если агент всё же ошибается, система сравнивает неудачные и удачные попытки и правит эту схему так, чтобы в следующий раз путь был лучше. В обзоре разберём, как граф действий превращает промахи ИИ-агента в полезные подсказки и почему такой подход помогает дольше держать цель в сложных задачах.

OpenAI опубликовала рекомендации по настройке GPT-6 Astra: модель чаще GPT-5.6 Sol задаёт уточняющие вопросы, лучше выполняет длинные инструкции, но чувствительнее к контексту и иногда останавливается раньше ожидаемого. В документации советуют явно склонять её к действиям, проверять файлы навыков и контекстные документы, задавать приоритет инструкций пользователя и отдельно настраивать стиль текста. OpenAI также предложила отладочный запрос, список нежелательных шаблонных выражений и рекомендации для задач по программированию, где GPT-6 Astra может запускать слишком много тестов.

Google DeepMind и Google Research выпустили WeatherNext 3 — новую модель ИИ для прогнозирования погоды. Она точнее отслеживает изменения в атмосфере, строит прогнозы с разрешением до 5 км, улучшила оценку дождя на 60% по сравнению с WeatherNext 2 и формирует данные каждый час вместо одного раза в шесть часов. Google планирует использовать модель в погодной информации Поиска, Google Maps и Gemini, а также открыть её пользователям и исследователям через облачные платформы. На бенчмарке Operational WeatherBench WeatherNext 3 обошла другие модели ИИ и традиционные прогнозы.

Хороший ИИ-репетитор — это не тот, кто просто много знает, а тот, кто понимает, как именно учить именно вас. Авторы предлагают способ делать для каждого ученика его цифрового двойника: такую модель, которая не только похожа на его обычные ответы, но и правдоподобно меняется после подсказки, объяснения или исправления. Это помогает заранее проверять, какой стиль помощи лучше сработает для конкретного человека, не тратя время на долгие и дорогие пробы на живых студентах. В этом обзоре разбираем, как создают таких цифровых учеников, зачем они нужны ИИ-репетиторам и почему без личной подстройки обучение быстро упирается в потолок.

Генеративный ИИ и большие языковые модели могут использоваться как виртуальные участники психологических экспериментов. В мини-исследовании 1 000 разнообразных ИИ-персон прошли шкалу осознанности Лангера (LMS), и их результаты оказались смещены к средним и высоким значениям, а не распределились равномерно. Вероятной причиной автор считает скрытое влияние обучения с подкреплением на основе обратной связи от людей (RLHF): во время настройки моделей люди обычно положительно оценивают любознательность и гибкость. Это показывает, что ИИ-персон для психологических исследований нужно создавать особенно тщательно, иначе результаты окажутся искажены.

ИИ-агенты часто проваливают длинные задачи не из-за одной большой ошибки, а потому что мелкие сбои постепенно накапливаются. Авторы предлагают способ автоматически улучшать всё, что окружает агента: подсказки, инструменты и правила управления его действиями. Система изучает следы неудачных попыток, находит причину сбоя, вносит точечные изменения и проверяет, действительно ли они помогают. Такой подход избавляет разработчиков от долгого ручного поиска настроек и делает агентов надёжнее в сложных задачах. В этом обзоре разбираем, как автоматическая отладка помогает ИИ-агентам справляться с длинными цепочками действий и почему одних общих советов об ошибках для этого недостаточно.

Можно ли проверять ИИ и цифровые сервисы на миллионах «людей», не собирая каждый раз дорогие и долгие отзывы у живых пользователей? Исследователи предлагают большую систему с виртуальными пользователями, у каждого из которых свой характер, привычки, терпение и реакции. Эти пользователи могут отвечать на вопросы, общаться с ИИ-помощником, пользоваться сайтом или приложением и показывать, где человек уйдёт, где засомневается, а где простит ошибку. Такой подход помогает увидеть не среднюю температуру по больнице, а то, как один и тот же продукт воспринимают очень разные люди. В этом обзоре разбираем, как устроена такая проверка на виртуальных пользователях, откуда берутся их профили и насколько их поведение похоже на поведение реальных людей.

Когда важен не только мозг, но и «обвязка» вокруг него. Как Meta-Harness автоматизирует создание harness для LLM. В разговорах об ИИ мы почти всегда обсуждаем сами LLM: размер, качество данных, архитектуру и скорость. Но в реальных приложениях на итоговую полезность влияет ещё один слой — harness. Это кодовая «обвязка» вокруг модели, которая…

За последние два года стало ясно: многие приложения на базе больших языковых моделей лучше учатся не через дообучение весов, а через заботливую работу с контекстом. В контекст мы кладем системные инструкции, шаги рассуждений, примеры, доменные правила, факты, даже подсказки по работе с…