Красные линии
Авторы сформулировали несколько ограничений:
Рекомендации развивают договорённость, которой Джо Байден и Си Цзиньпин достигли в ноябре 2024 года.
Горячая линия для инцидентов
Тяньцзяо Цзян также предлагает создать прямую линию связи для обсуждения инцидентов с ИИ. Если оборонительная ИИ-система автоматически отреагирует на подозрительную активность, другая сторона может принять это за нападение. Прямая связь позволит правительству быстро объяснить, что инцидент произошёл случайно, до того как ситуация выйдет из-под контроля.
Предупреждения уже звучали
Это не первая инициатива такого рода. Национальная комиссия по безопасности в сфере искусственного интеллекта (NSCAI) ещё в 2021 году призывала сохранить человеческий контроль над ядерным оружием.
Обязательных механизмов для этого по-прежнему нет. Карла Фриман из Университета Джонса Хопкинса сомневается и в том, что подобные горячие линии будут работать. Во время кризиса вокруг китайского аэростата-разведчика в 2023 году Китай не ответил на звонок из США.
Читайте также
Эндрю Хасти: ИИ посоветовал написать «поздравляю!» мужчине, планировавшему эвтаназию
Почему ИИ вряд ли уничтожит человечество с помощью биологического оружия
«Жестоко»: сиднейский бренд заявил о краже тысяч дизайнов футболок на Temu
Google DeepMind запускает институт для расширения дискуссии об AGI
Военные и студенты вместе изучают технологии дронов
План FAA по улучшению управления воздушным движением? ИИ за $875 млн
Дебаты о безопасности ИИ — о безопасности или о контроле?
OpenAI: модели оставляли будущим версиям заметки, чтобы скрыть плохое поведение
Руководитель Microsoft назвал сбор данных для ИИ «крупнейшей кражей труда в истории человечества» — рассекреченные материалы дела
Crusoe привлекла $3,9 млрд на огромные дата-центры и малые модульные «фабрики ИИ»
Виртуальные миры, где обучают роботов
PrismML надеется, что её крошечная LLM изменит наше обращение с ИИ
Вот как может выглядеть апокалипсис ИИ
Робототехника: компании наперегонки улучшают системы обучения роботов
Pinterest показала новую функцию Restyle — ИИ поможет переделать комнату
Директор Microsoft назвал ИИ «крупнейшей кражей труда в истории человечества» — рассекреченные документы суда
Проблему неуправляемых ИИ-агентов может решить ещё больше ИИ
Будущее учебной практики: учителя создают интерактивы с генеративным интерфейсом
Метрики для оценки темпов развития ИИ в передовых лабораториях
ООН обратилась к Google, чтобы подготовить глобальные данные для ИИ-агентов
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram