Компания Anthropic, разработчик нейросети Claude, выступает за введение новых федеральных правил безопасности искусственного интеллекта в США. Как сообщает Politico, обсуждаемый законопроект предусматривает независимую проверку передовых моделей ИИ и возможность временно запретить их выпуск при выявлении чрезвычайно серьёзных угроз. Предлагаемый механизм будет применяться к рискам, связанным с созданием биологического оружия, масштабными кибератаками или потерей контроля над автономными ИИ-системами. Основанием для вмешательства может стать угроза экономического ущерба не менее миллиарда долларов либо гибели или травмирования более 50 человек.
Оценивать безопасность моделей предполагается поручить независимым экспертам, зарегистрированным в Министерстве торговли США. При обнаружении непосредственной угрозы они должны будут уведомить ведомство в течение 72 часов. После этого вопрос о приостановке выпуска модели рассмотрит федеральный суд. Законопроект также ограничивает полномочия других государственных ведомств, предусматривая единый порядок принятия подобных решений через Министерство торговли.
В Anthropic подтвердили, что предложения соответствуют принципам регулирования передового ИИ, которые компания продвигает с июня. При этом речь пока идёт о законодательной инициативе, а не о действующем механизме блокировки нейросетей.
