Новая модель рассуждения Salesforce и Nvidia — всё, чего ИИ-лабораториям стоит бояться

Модель для корпоративных задач

Koa показывает, как потребности компаний в ИИ расходятся с предложениями передовых ИИ-лабораторий. Закрытые лаборатории заинтересованы в том, чтобы предприятия загружали в их модели и ИИ-агентов файлы, код, промты и обратную связь, а затем тратили на это миллионы долларов.

Salesforce предлагает корпоративным клиентам модель со следующими особенностями:

Koa станет одной из моделей, доступных в платформе Agentforce. В ней компании создают ИИ-агентов для рутинной работы — например, ответов на вопросы клиентов и назначения встреч.

Джейеш Говиндараджан, исполнительный вице-президент Salesforce AI, рассказал TechCrunch, что Salesforce уже создала много небольших языковых моделей для отдельных задач, и они входят в набор Agentforce. Но до появления Koa для рассуждений компании приходилось обращаться к поставщикам передовых моделей.

Почему Salesforce выбрала Nemotron

До выхода Koa, если ИИ-агенту требовалось выполнить длинную или многоэтапную задачу с рассуждением, Agentforce направляла промты в передовую модель вроде Claude или ChatGPT через ИИ-шлюз. Эта система решает, какая модель должна обработать конкретный запрос.

Говиндараджан объяснил, что Salesforce давно хотела обучить собственную передовую модель корпоративного уровня, но ей не хватало подходящей предобученной основы. По его словам, до появления Nemotron не было доступной суверенной американской предобученной модели, которая одновременно:

В качестве примера модели с неясными данными для обучения Говиндараджан упомянул Qwen — популярную открытую модель Alibaba из Китая.

Как обучали Koa

Дополнительное обучение превратило универсальную модель в систему, которая хорошо ориентируется в продажах и клиентской поддержке. Salesforce и Nvidia не использовали для этого реальные данные клиентов Salesforce. Вместо них компании создали синтетические данные, имитирующие типичные ситуации.

Они смоделировали среду клиентской поддержки с виртуальным специалистом, которому звонят раздражённые клиенты. В сценариях также участвовал специалист по продажам, пытающийся закрыть сделку.

Koa должна лучше подходить для рабочих задач клиентов Salesforce и тратить меньше токенов, чем Claude или ChatGPT при выполнении тех же запросов.

Вице-президент Nvidia по программному обеспечению для корпоративного генеративного ИИ Карри Эн Бриски рассказала TechCrunch, что Nemotron использует архитектуру, рассчитанную на экономный инференс. По её словам, для такой системы важны три составляющие: суверенный ИИ, малое время до появления первого токена и эффективное рассуждение, от которого зависит стоимость использования токенов.

Salesforce продолжит работать с Anthropic и OpenAI

При этом Salesforce не отказывается от Anthropic и OpenAI. Компания объявила о партнёрстве с Anthropic под названием ClaudeForce. Оно позволит компаниям использовать Claude как интерфейс для ИИ, сохраняя данные в системе записей Salesforce и защищая их собственной инфраструктурой.