Другой специалист по безопасности, Пол Кристиано, предупредил: без более эффективного контроля человечество может навсегда утратить власть над сверхинтеллектом. Недавно Кристиано вошёл в совет OpenAI Foundation и Комитет по безопасности и защищённости OpenAI, который контролирует практики компании в этой области. При этом права голоса у него нет.
Если такие предупреждения вызывают тревогу, паниковать не стоит. За ними стоят сразу несколько культурных и финансовых интересов. Это не делает все опасения бессмысленными: агенты для взлома от OpenAI и Anthropic уже демонстрировали неконтролируемое поведение.
При этом полный сценарий вымирания человечества остаётся крайней и спорной позицией. Пока также неясно, может ли на основе современных технологий вообще появиться нечто похожее на сверхИИ. Возможно, речь идёт о массовом психозе Кремниевой долины. А возможно, и нет — тогда остаётся пожелать удачи.
Источник: the-decoder.com
Читайте также
Clearview AI тестирует ИИ-инструмент, который позволит полиции раскопать вашу жизнь в сети
Лидеры по расходам на ИИ в августе сократили затраты на сотрудника почти на 10%
Шарнир нового складного телефона Apple изготовили с помощью ИИ
OpenAI решила давнюю задачу роем из 10 000 агентов — но не исключает помощи закрытых данных из Codex
Гендиректор Apple Джон Тернус: лучшим устройством для ИИ по-прежнему остаётся iPhone
Популярный ИИ-ассистент Instinct получил собственный адрес электронной почты
Weatherwatch: ИИ-модель превзошла стандартные методы прогнозирования циклонов
Расходы на ИИ на сотрудника в августе упали — летнее затишье или тревожный сигнал?
Shipt стала очередным сервисом доставки с ИИ-помощником для покупок
Instacart запустила ИИ-помощника для покупок продуктов Clementine
Законодатели обрушились на ИИ-компании после предупреждения о вымирании человечества к 2030 году
ИИ-стартап Listen Labs свернул раунд с оценкой $1,5 млрд ради переговоров с Salesforce
OpenAI пополнила совет директоров известным ИИ-пессимистом
Массачусетс вводит новые правила чистого энергоснабжения дата-центров
Сан-Франциско потребовал от Meta перестать «пропускать» рекламу ИИ-насилия над детьми
Новые ИИ-функции Apple Watch делают нормой мысль, что техника всегда слушает
Apple представила складной iPhone Duo — новый гендиректор в центре внимания
Мужчина заявил, что в гараже синтезировал новое лекарство от шизофрении по формуле ChatGPT
Anthropic создала модель: мрачные прогнозы её CEO о занятости — лишь крайний сценарий
Apple обновила Health: приложение будет считать «возраст здоровья» и оценку готовности
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram