Более 1100 сотрудников Meta*, Google, OpenAI и Anthropic просят власти США притормозить гонку искусственного интеллекта
Более 1100 сотрудников крупнейших технологических компаний призвали власти США помочь создать международные правила, которые не позволят разработке мощного искусственного интеллекта выйти из-под контроля.
Обращение опубликовала инициатива Pacing the Frontier, которую поддержали сотрудники Meta*, Anthropic, OpenAI и Google, а также некоммерческие организации Guidelight AI Standards и Encode AI. Авторы предлагают разработать технические и правовые механизмы, с помощью которых страны смогут сознательно замедлять развитие самых передовых систем искусственного интеллекта, если скорость прогресса начнёт угрожать безопасности.
Подписанты опасаются, что новые модели вскоре начнут совершенствоваться быстрее, чем государства и компании успеют оценивать риски, вводить ограничения и готовить защитные меры. Современные правила, по мнению авторов обращения, уже могут не справляться с темпами развития отрасли.
Документ подписали генеральный директор Anthropic Дарио Амодеи, несколько сооснователей компании, вице-президент Meta по исследованиям в области ИИ Дон Сонг и главный научный сотрудник OpenAI Якуб Пахоцкий.
OpenAI заявила, что в будущем передовые модели могут начать развиваться настолько быстро, что странам придётся совместно контролировать темп прогресса. Компания не уточнила, какие именно ограничения считает приемлемыми, но поддержала идею заранее подготовить инструменты для управления скоростью разработки.
Anthropic сослалась на недавнюю работу специалистов, которые изучают, как системы могут самосовершенствоваться рекурсивно. Такой механизм позволяет системе помогать создавать собственные более мощные версии. Компания считает, что подобные технологии могут резко ускорить развитие искусственного интеллекта и оставить обществу слишком мало времени, чтобы подготовиться.
Месяцем ранее создатель Claude Code предложил крупнейшим разработчикам обсудить согласованную паузу. Он предупредил, что системы искусственного интеллекта могут научиться улучшать себя быстрее, чем люди смогут отслеживать последствия и устранять возникающие угрозы.
Параллельно Nvidia создала коалицию с Adobe, CrowdStrike и другими компаниями. Участники займутся средствами защиты искусственного интеллекта и инструментами кибербезопасности. Решение последовало после недавнего инцидента на платформе Hugging Face, который усилил опасения вокруг автономных программных агентов.
Обращение не требует немедленно остановить разработку новых моделей. Авторы предлагают заранее создать международный механизм, который позволит замедлить наиболее опасный этап развития, если системы начнут совершенствоваться слишком быстро. Главный вопрос теперь заключается в том, согласятся ли государства и конкурирующие компании ограничивать разработки до того, как появится реальная угроза.
( * Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ )