Альтман также сообщил Fortune, что OpenAI не выйдет на биржу в этом году: компания ссылается на соображения безопасности. Внутри OpenAI это решение уже объявили в июне. Возможна и другая причина: финансовые показатели компании пока не поддерживают IPO, особенно по сравнению с Anthropic. Оба объяснения могут быть верными.
С этим подходом согласны не все. Исследователь Google Пейман Миланфар назвал предположение о рекурсивном самосовершенствовании (RSI) наивным: такие контуры обратной связи по своей природе нестабильны. Чем активнее система оптимизирует себя, тем глубже она погружается в собственные слепые зоны, а надёжные свидетельства можно получить только из реального мира, а не из бенчмарков.
По мнению Миланфара, из-за этого «ограничение скорости» Амодеи не требуется. Системы, которые действительно способны надёжно улучшать себя, будут управляемыми, замедленными и ограниченными запасом устойчивости, который может казаться избыточным. Именно устойчивость, считает исследователь, и задаёт предел скорости.
Читайте также
Сэм Альтман: OpenAI не проведёт IPO в 2026 году из-за рисков для безопасности ИИ
Австралия приближается к будущему, созданному ИИ: закон о правах человека нужен как никогда
Законы штатов о чатах ИИ о психическом здоровье ведут к тревожному юрисдикционному дрейфу моделей
Что происходит, когда ваши ИИ-сотрудники выходят из-под контроля?
OpenAI нацеливает ChatGPT for Financial Services на задачи младших банковских аналитиков
Как соцсети выявляют и маркируют контент, созданный ИИ
Открытые веса — не открытый исходный код: теперь это важно для советов директоров
Итан Моллик — о роях ИИ-агентов и провале Hugging Face
Лангерианскую осознанность исследуют с помощью ИИ-персон в задании Triangle Task
Предупреждение Коксона об ИИ стало мейнстримом. Что теперь?
GPT-6 Astra, похоже, демонстрирует скачок в пространственном рассуждении — ранние тесты
Стареющий Конгресс совершенно не готов регулировать ИИ — похоже, даже понять его не может
OpenAI: GPT-6 Astra нужны более короткие промты и меньше ограничений
Шаги рассуждений ИИ-моделей соответствуют разным внутренним паттернам — исследование
Глава Anthropic Амодеи хочет ограничить скорость ИИ, пока самоулучшение не опередило контроль людей
Студенты колледжей доходят до абсурда, чтобы списывать с ИИ и не попасться
Nvidia хочет вложить до $10 млрд в рекордное IPO Anthropic
Дипфейки подрывают доверие к инфлюенсерам — одна фальшивая реклама за другой
Вернер Херцог разнёс бездарных халтурщиков, копирующих других режиссёров с помощью ИИ
Агенты OpenAI атаковали RubyGems 2 000 пакетами ради данных, которые мог загуглить любой
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram