Глава Alation предупреждает: даже умные ИИ-агенты могут неправильно понять ваш бизнес

Компании передают ИИ-агентам всё больше ответственности за бизнес-решения, но правила, на которых основаны эти решения, часто остаются неопределёнными. Даже простой вопрос о числе активных клиентов может иметь несколько ответов. Отдел продаж может считать клиентов, которые продолжают пользоваться продуктом, а финансовый отдел — тех, кто принёс выручку в течение квартала. Агент, выбравший неправильное определение, способен безошибочно посчитать итог и при этом ввести пользователя в заблуждение.

Проблема усугубляется тем, что такой ответ выглядит убедительно. Точное число клиентов почти не показывает, что агент сделал предположение о способе измерения бизнеса.

Alation рассчитывает занять более заметное место на рынке, закрывая разрыв между корпоративными данными и пониманием бизнеса. Компания прославилась каталогизацией данных и помощью в их интерпретации. На конференции revAlation она представила шесть новых или расширенных продуктов для Alation Intelligence Operating System, или AIOS.

Открытая платформа, запущенная в июле 2026 года, связывает ИИ-агентов с корпоративными данными и бизнес-контекстом, необходимым для их интерпретации. Alation хочет управлять этими знаниями и использовать ошибки агентов, чтобы улучшать инструкции, на которые они опираются.

Позиционирование AIOS как «операционной системы интеллекта» отражает намерение Alation управлять тем, как ИИ-агенты интерпретируют и используют корпоративную информацию. Одновременно компания вступает в более прямую конкуренцию со Snowflake и Databricks: обе платформы создают инструменты, которые помогают агентам правильно понимать данные компаний и соблюдать правила доступа и действий.

Сангани, сооснователь и генеральный директор Alation, считает, что рост способностей ИИ-модели не должен автоматически давать ей больше полномочий. Он предлагает начинать с принципа нулевого доверия: сначала определить, где ИИ действительно полезен, и лишь затем расширять круг его задач.

По словам Сангани, он не придерживается максималистского подхода к ИИ, и многие клиенты Alation тоже. Модели часто создают лишние результаты, не всегда отвечают кратко и не всегда приносят пользу. Поэтому сначала нужно понять, что именно изменится в работе после внедрения ИИ. Если же речь идёт о передаче агенту окончательного решения, в этот момент, по мнению Сангани, необходимо человеческое суждение.

Неопределённость сохраняется и на уровне руководства. Обзор Grant Thornton «Влияние ИИ в 2026 году», в котором участвовали 950 руководителей высшего звена, показал: 78% из них не были уверены, что смогут пройти независимый аудит управления ИИ в течение 90 дней.

ИИ-агентам недостаточно одной версии истины

Semantic Model Mastering от Alation должен переносить утверждённые бизнес-определения непосредственно в платформы, где работают агенты. Продукт собирает определения из Snowflake и Databricks в каталог Alation, где владельцы данных могут дополнить и утвердить их. Затем компания синхронизирует эти определения обратно с обеими платформами.

Такой процесс помогает согласовать смысл показателей между системами, но решение о том, каким именно должен быть этот смысл, остаётся за людьми.

Это особенно важно, когда два отдела используют разные определения. Принудительное объединение вариантов может лишить агента информации, необходимой для правильной интерпретации бизнеса.

Сангани приводит показатель «поставка вовремя и в полном объёме» — он отражает, пришёл ли заказ по расписанию и в ожидаемом количестве. Если оценивать своевременность в момент доставки, результат может отличаться от расчёта по моменту, когда получатель зарегистрировал получение.

По словам Сангани, в реальном мире именно практика определяет, какое решение считать правильным. У клиентов Alation встречаются разные определения этого показателя, и каждое может быть оправдано: в расчётах есть нюансы, а способов подсчёта — несколько. Агенту нужно понимать, какой вариант подходит для конкретной задачи.

Alation может показать, что два определения похожи или совпадают и их стоит объединить, но окончательное решение об объединении должен принять сам клиент.

Онтологии расширяют эту работу от отдельных определений до бизнес-процессов. Они описывают операционные правила в машиночитаемых моделях, которые проверяют эксперты в соответствующей области. Governed Collections работает с документами, связанными с этими процессами: продукт даёт агентам доступ к политикам и рабочим процедурам через ссылки, которые обновляются вслед за источником.

Между наблюдением и управлением агентами

ИИ Governance от Alation должен показывать, когда проблемы с данными ставят под угрозу работу агента. Система создаёт общий реестр агентов и моделей с помощью шести подключений:

Затем платформа связывает каждого зарегистрированного агента с данными, на которые он опирается. Если набор данных, использованный для подготовки отчёта, не проходит проверку качества, Alation обновляет оценку риска агента. Это может предупредить команду, что отчёт построен на ненадёжной информации.

Однако после такого предупреждения нужно принять ещё одно решение: приостановить ли работу агента и какая система имеет право вмешаться.

Сангани объясняет, что достаточно длинное контекстное окно теоретически позволило бы передать агенту всю необходимую информацию. Но если сделать контекст слишком сложным, агент начнёт путаться. Поэтому Alation делает упор на наблюдаемость результатов.

Под наблюдаемостью Сангани понимает возможность увидеть, какие инструменты вызывал агент и к какой информации обращался при подготовке ответа. Платформа помогает определить источник ошибки и рекомендует, где зафиксировать исправление.

Инструменты Console и Intelligent Feeds приближают такой контроль к сотрудникам:

В одних случаях, по словам Сангани, пользователи могут автоматически подтверждать действия агента, если достаточно уверены в результате. В других — отклонять его предложение. Лента даёт возможность выбирать между автоматическим действием и сценарием с участием человека.

Сангани также сообщил, что клиенты могут утверждать изменения и возвращаться к предыдущей доверенной версии. При этом он не уточнил, как восстановление версии в Alation повлияет на подключённые системы, которые уже использовали обновлённые данные.

Конкуренция за управление корпоративным ИИ

Snowflake и Databricks предлагают собственные бизнес-определения и инструменты управления. У Collibra в ИИ Command Center есть реестр агентов и динамическая оценка доверия. Atlan развивает Active Ontology и инструменты, которые формируют контекст для ИИ.

Alation считает своим преимуществом проверку агентов на соответствие используемым бизнес-определениям. Неправильные ответы помогают находить пробелы в этих инструкциях. Компания утверждает, что постоянно обновляет оценку риска агента, когда меняется качество исходных данных или правила их использования.

Сангани признаёт, что поставщики делают похожие заявления и предлагают функции, которые звучат почти одинаково. Поэтому им приходится доказывать пользу на практике. По его мнению, заказчикам следует оценивать технологию по тому, пользуются ли ей сотрудники и улучшает ли она их работу.

Для Alation этот аргумент особенно важен, когда компании нужно поддерживать единые определения сразу в нескольких платформах или менять поставщика, не создавая заново знания, от которых зависят агенты. Сангани говорит, что все определения доступны через API, а пакетные операции позволяют загружать и выгружать их, поэтому перенос знаний должен быть достаточно понятным и простым.

При этом универсального открытого стандарта знаний пока нет. Экспорт определения не гарантирует, что другая система поймёт его точно так же.

AIOS проверяет окупаемость

По данным Alation, ИИ Governance используют пять клиентов, а Semantic Model Mastering — более 20. У каждого из четырёх продуктов, находящихся на раннем доступе, есть от трёх до пяти партнёров по разработке. Все шесть продуктов входят в действующую модель оплаты и не требуют новых контрактов, хотя клиентам всё равно нужно проделать работу по их внедрению.

Одна неназванная компания из игровой индустрии использует более 30 дата-продуктов — повторно применяемых наборов данных и бизнес-контекста, которые поддерживают десятки агентов.

Другой пример — Euromonitor, где, по словам Alation, AIOS применяется шире. Клиентский продукт компании на естественном языке обрабатывает десятки тысяч взаимодействий.

Сангани считает, что оценивать эффект нужно ещё до покупки технологии. С клиентом необходимо заранее определить, каким будет состояние «до» и «после» внедрения.

Такой же подход Alation применяет к моделям, которые использует внутри компании. Сангани не считает, что для большинства задач нужны передовые модели. Компания старается внимательно контролировать расходы и выбирать модели с учётом конкретной задачи. Это особенно важно потому, что неудачный выбор может резко увеличить стоимость и показать отсутствие заметной отдачи от инвестиций.

Клиентам Alation придётся самостоятельно разрешать споры о смысле данных и отвечать за последствия изменения определений. Управление информацией, стоящей за ответом, может повысить основания для доверия к нему, но решение о том, действовать ли на основе этого ответа, всё равно остаётся за бизнесом.