Anthropic предложила блокировать релиз ИИ-моделей только при угрозе от 50 смертей или ущербе в $1 млрд

Компания Anthropic ведет негласное лоббирование законопроекта о регулировании систем искусственного интеллекта, который существенно ограничивает возможности регуляторов вмешиваться в релизы разработчиков. Об этом сообщает Tom's Hardware со ссылкой на материалы Politico.

Согласно тексту документа, американские власти смогут блокировать выпуск ИИ-модели только в том случае, если она несет прямую угрозу нанесения материального ущерба на сумму от $1 млрд либо гибели или травмирования более чем 50 человек.

Законопроект фактически делает Министерство торговли США единственным государственным органом, обладающим юридическим правом остановить распространение потенциально опасной архитектуры. Аудит безопасности моделей предлагается возложить на сторонние организации, аккредитованные при ведомстве.

При этом разработчикам разрешат самостоятельно оплачивать услуги проверяющих экспертов — при условии, что финансирование не должно влиять на их объективность.

Представители Anthropic подтвердили факт работы над инициативой, отметив, что текст основан на внутренней политике компании Advanced AI Framework, продвигаемой на федеральном уровне с середины прошлого года.