Безопасность ИИ нужна бизнесу, чтобы его внедряли клиенты

Безопасность ИИ в последнее время часто обсуждают, в том числе из-за непредсказуемого поведения ИИ-агентов. Компании отрасли начали призывать к стандартам, установленным самой индустрией или государством.

В июле 2026 года председатель Google DeepMind Демис Хассабис написал в X о необходимости создать финансируемый индустрией орган по стандартам ИИ под федеральным надзором. В сентябре 2026 года генеральный директор Anthropic Дарио Амодеи заявил в своём блоге, что разработку ИИ следует вести медленнее — так, чтобы сохранять баланс между безопасностью и преимуществами технологии. OpenAI сообщила, что поддерживает отдельные положения законопроектов о создании федерального фреймворка безопасности ИИ.

Президент Трамп, напротив, явно выступает против такого подхода: он опасается, что требования безопасности навредят американскому бизнесу. Эту позицию разделяют и другие критики регулирования. Однако у безопасности ИИ есть и деловое обоснование: проверяемые меры защиты могут поддержать дальнейшее внедрение технологии и появление дополнительных инноваций.

Дежавю?

Разговоры Anthropic, Google, OpenAI и других ведущих ИИ-компаний о безопасности могут показаться знакомыми. В 2023 году эти же компании и другие участники рынка согласились на добровольные обязательства в области безопасности ИИ, предложенные администрацией Джо Байдена.

Некоторые нынешние предложения похожи на договорённости 2023 года. Например, первое обязательство требовало от компаний проводить внутреннее и внешнее тестирование безопасности ИИ-систем до их выпуска. Тогда оставалось неясно, какие именно независимые организации будут проводить проверки и по каким критериям.

То, что безопасность ИИ снова стала заметной темой, а компании призывают принять многие из обязательств, согласованных три года назад, указывает на ограниченный эффект прежней инициативы. Возникает вопрос, почему теперь результат должен быть другим и что изменилось.

Одно из отличий — более подробное описание процедуры оценки. Дарио Амодеи предлагает, чтобы каждая компания обеспечивала постоянный доступ к своим системам для команды независимых оценщиков, работающих внутри компании на условиях, сопоставимых с доступом сотрудников. Демис Хассабис выступает за экосистему независимых аудиторов, которые помогали бы оценивать системы и разрабатывать новые бенчмарки и методы проверки.

Часть необходимой инфраструктуры уже существует:

Рост использования ИИ

Одно из главных отличий между 2023 годом и нынешней ситуацией — рост числа пользователей. По данным Бюро переписи населения США, в конце 2023 года ИИ применяли лишь около 4% американских компаний. К 6 сентября 2026 года об использовании ИИ сообщили уже 23% компаний, хотя в исследовании изменили формулировку вопроса о применении технологии.

Другие обзоры показывают ещё более высокий уровень использования ИИ среди частных лиц. Согласно данным исследования Real-Time Population Survey, которое отслеживает Федеральный резервный банк Сент-Луиса, в августе 2026 года примерно 45% работающих взрослых в США использовали ИИ на работе. Если учитывать работу и дом, показатель составлял около 62%.

С ростом распространённости ИИ усилился и общественный интерес к его безопасности. В этом технология похожа на другие решения прошлого: по мере роста спроса и использования для них появлялись согласованные стандарты безопасности.

Так произошло с электричеством. Быстрое распространение электричества в конце XIX и начале XX века побудило разные группы, включая страховые, электротехнические и архитектурные организации, разрабатывать стандарты безопасности. Созданная инфраструктура сделала дальнейшее внедрение электричества более надёжным и масштабируемым.

Доля американских домохозяйств, использовавших электричество, выросла с однозначных значений в начале XX века почти до 100% к середине века. Это, в свою очередь, помогло широко распространиться другим продуктам — холодильникам, стиральным машинам, кондиционерам, компьютерам и связанным с ними инновациям.

История указывает, что безопасность ИИ может поддерживать инновации. Понятные стандарты, независимые проверки и общественная подотчётность способны уменьшить неопределённость для клиентов и стимулировать внедрение. Рост спроса, в свою очередь, создаёт условия для появления компаний, которые разрабатывают дополнительные продукты и услуги.

Гарантий такого сценария нет. Но если он реализуется, безопасность ИИ не станет тормозом для инноваций, а создаст основу для роста всей экосистемы. Задача законодателей и представителей индустрии — разработать стандарты, которые обеспечат безопасность и при этом не будут без необходимости ограничивать развитие технологии.