Американская компания Anthropic, разработчик нейросети Claude, представила законодателям США проект закона о контроле передовых моделей искусственного интеллекта. Документ предусматривает возможность судебной блокировки ИИ-систем, способных привести к катастрофическим последствиям.
Предложенные правила позволяют приостанавливать выпуск или использование нейросети при непосредственной и предсказуемой угрозе ущерба более 1 миллиарда долларов либо гибели или тяжёлых травм свыше 50 человек. Основанием для вмешательства могут стать создание биологического оружия, масштабная кибератака или выход ИИ-модели из-под контроля разработчиков.
Контролировать потенциальные угрозы предлагается с помощью независимых экспертов, зарегистрированных в Министерстве торговли США. Если проверка выявит критический риск, специалисты будут обязаны уведомить ведомство в течение 72 часов после завершения оценки. Министерство сможет обратиться в федеральный суд округа Колумбия с требованием приостановить выпуск или использование опасной модели.
Документ ограничивает полномочия других государственных органов США, запрещая им самостоятельно приостанавливать разработку или использование ИИ-систем. Законопроект также предусматривает обязательную публикацию отчётов о безопасности, регистрацию серьёзных инцидентов и защиту сотрудников, сообщающих о нарушениях внутри компаний.
Представители Anthropic подтвердили СМИ, что инициатива основана на программе Advanced AI Framework, представленной компанией ещё в июне 2026 года. Документ уже передали американским законодателям, однако сроки его возможного рассмотрения и принятия на момент написания новости не объявлены.
