Берни Сандерс предлагает запретить сверхразумный ИИ и сажать разработчиков на 20 лет

Пока США, похоже, как никогда далеки от содержательного регулирования ИИ, законодатели предлагают разные способы установить такие правила.

Ситуация становится особенно тревожной: опасения, что вышедшие из-под контроля модели ИИ могут вызвать масштабные последствия и поставить под угрозу человечество, усиливаются. Руководители большинства лабораторий, разрабатывающих передовые модели, начали сходиться во мнении, что индустрии нужно замедлить развитие технологий, чтобы предотвратить возможную катастрофу.

Сенатор от Вермонта Берни Сандерс усиливает призывы запретить разработку так называемого сверхразумного ИИ и предлагает более жёсткие меры, чем некоторые его единомышленники.

На прошлой неделе Сандерс написал, что Дарио Амодеи, Илон Маск и Сэм Альтман теперь согласны: развитие ИИ нужно замедлить и синхронизировать с возможностями передовых моделей. По мнению сенатора, это только начало и этого недостаточно.

Сандерс ссылался на большое эссе генерального директора Anthropic Дарио Амодеи «We Must Pace the Frontier». В нём Амодеи предложил:

Сандерс добавил, что если вы мчитесь к обрыву, недостаточно просто отпустить педаль газа — нужно нажать на тормоз.

В этом месяце сенатор объявил о законопроекте «Ban Artificial Superintelligence Act». Документ призван остановить ИИ-олигархов, которые создают машины, неподконтрольные людям.

Если закон примут, разработку ИИ придётся приостановить до тех пор, пока федеральный регулятор не установит правила безопасности.

Законопроект также вводит новые наказания за попытки обойти эти требования. Разработчикам, которые всё же попробуют создать сверхразумный ИИ, может грозить до 20 лет тюрьмы — примерно столько же предусматривают действующие нормы за незаконную разработку ядерного оружия.

Сандерс предлагал и другие радикальные способы не допустить концентрации огромных состояний в руках ИИ-индустрии. В июне он выступил за разовый налог в размере 50% на акции ИИ-компаний. Полученные деньги предполагалось перевести в государственный фонд, которым управляло бы правительство.

Особое беспокойство законодателей вызвал инцидент, когда группа моделей ИИ OpenAI взломала системы Hugging Face. Этот серьёзный сбой в кибербезопасности усилил призывы замедлить развитие ИИ. Позже подкомитет Сената объявил, что изучит деятельность OpenAI и реакцию компании на произошедшее, сообщало Axios на прошлой неделе.

Сейчас складывается необычная ситуация: Сандерс продолжает угрожать руководителям ИИ-компаний регуляторными мерами, а те же руководители, похоже, готовы к тому, чтобы правила установило правительство.

Однако неизвестно, смогут ли законодатели договориться. Исполнительная власть, например, пока проявляет мало интереса к замедлению развития ИИ. В понедельник президент Дональд Трамп высмеял саму эту идею в публикации в Truth Social, заявив без доказательств, что против ИИ и дата-центров действует «БОЛЬШОЙ заговор».