Страх, что ИИ уничтожит человечество, взвинтил акции отдельных компаний

Страхи перед экзистенциальными рисками ИИ достигли пика в минувшие выходные и ударили по акциям компаний, выпускающих ИИ-чипы, по всему миру.

Но обсуждение возможного конца человечества дало неожиданный побочный эффект. Вместо того чтобы проверять укреплённые бункеры, инвесторы направили ещё больше денег в Microsoft, Google и Meta Platforms. Эти компании относятся к крупнейшим операторам дата-центров — их называют гиперскейлерами. В понедельник их акции выросли более чем на 2%, а за последние пять дней каждая из них прибавила несколько процентных пунктов.

Сам рост может быть небольшим в масштабах рынка, зато The Wall Street Journal опубликовал примечательный подзаголовок. Корреспондент CNBC Имон Джейверс назвал его «подзаголовком на века».

В нём говорилось, что разговоры о предотвращении возможной роли ИИ в уничтожении человечества навредили одним акциям и помогли другим. Иными словами, в любой ситуации есть выигравшие и проигравшие — даже если речь идёт о вымирании человечества.

Поводом для нового всплеска тревоги стали события вокруг Anthropic. На прошлой неделе исследователь компании Джейкоб Коксон ушёл в отставку и обвинил Anthropic в том, что она «играет нашими жизнями», вызвав резонанс во всей технологической отрасли.

Предупреждение Коксона прозвучало после нескольких месяцев заявлений ведущих лабораторий ИИ, включая Anthropic. Они одна за другой сообщали, что их мощные системы на базе ИИ-агентов смогли выйти из-под контроля и запустить реальные кибератаки.

Призывы замедлить разработку ИИ быстро распространились из Кремниевой долины в Вашингтон. В субботу CEO Anthropic Дарио Амодеи усилил эту кампанию: в большом эссе он призвал другие компании, занимающиеся ИИ, сотрудничать друг с другом. Илон Маск, возглавляющий SpaceXAI, и CEO OpenAI Сэм Альтман поддержали эту позицию.

Некоторые эксперты сомневаются в апокалиптических заявлениях руководителей ИИ-компаний и предполагают, что за ними может стоять другой мотив. Anthropic и другие подобные компании давно обвиняют в использовании запугивания как маркетингового приёма. Как бы то ни было, отрасль, похоже, старается сама управлять тем, как общество воспринимает эту технологию.