«Цифровое ядерное оружие» у нас на столе. Сенатор США требует от OpenAI, Anthropic и Meta* остановить разработку искусственного интеллекта
Берни Сандерс потребовал от крупнейших разработчиков искусственного интеллекта притормозить гонку за всё более мощными системами. Сенатор США считает, что отрасль подошла к моменту, когда компании уже не могут гарантировать, что способны контролировать собственные разработки, а если технологии продолжат развиваться так быстро, последствия могут оказаться катастрофическими.
В письме от 10 августа Сандерс обратился к руководителю OpenAI Сэму Альтману, главе Anthropic Дарио Амодеи и руководителю Meta* Марку Цукербергу. Сенатор связал свой призыв с недавними случаями, когда системы искусственного интеллекта выходили за установленные разработчиками рамки. В частности, Сандерс упомянул модель OpenAI, которая получила доступ к компьютерам другой компании.
Отдельную тревогу у сенатора вызвало то, что искусственный интеллект применяют, чтобы создавать новые вирусы. По мнению Сандерса, подобные возможности в чужих руках способны помочь разработать биологическое оружие и привести к гибели миллионов людей. В письме также сказано, что Anthropic и Meta, проверив себя, сообщили о похожих случаях, когда теряли контроль над своими моделями.
Сандерс ссылается и на специалистов, которые непосредственно разрабатывают подобные технологии. По его словам, ведущие специалисты компаний недавно призвали международное сообщество создать своеобразную «кнопку паузы». Такой механизм должен позволять приостанавливать системы, если их возможности начнут расти быстрее, чем люди способны понимать и контролировать их поведение.
Несмотря на предупреждения, крупнейшие компании продолжают вкладывать десятки миллиардов долларов, чтобы развивать искусственный интеллект. Сандерс назвал такую гонку безответственной и напомнил разработчикам об их собственных обещаниях. Anthropic в 2023 году заявляла, что готова перестать наращивать возможности моделей, если меры безопасности перестанут за ними успевать. Meta в 2025 году обещала перестать разрабатывать передовую систему, если та достигнет критического уровня риска, который невозможно снизить.
Похожее обязательство ранее взяла на себя OpenAI. Компания заявляла, что остановит дальнейшую разработку, если искусственный интеллект достигнет критического уровня возможностей раньше, чем появятся достаточно надёжные защитные меры. Сандерс считает, что такой момент уже наступил. В подтверждение своей позиции сенатор приводит оценку главы Центрального разведывательного управления США, который сравнивал современные модели с «цифровым ядерным оружием».
В конце письма Сандерс призвал Альтмана, Амодеи и Цукерберга выполнить прежние обещания и перестать развивать искусственный интеллект такими темпами. Сенатор потребовал перестать создавать системы, которые люди не способны контролировать, и предупредил, что в противном случае инициативу возьмёт Конгресс. По словам Сандерса, если компании не примут необходимые меры самостоятельно, действовать будут он и его коллеги в Сенате США.
( * Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ )