Американская компания Anthropic отчиталась о пресечении нескольких попыток использовать её ИИ-модели, включая семейство Claude, для исследований в области разработки биологического оружия. Об этом сообщает Al Jazeera со ссылкой на отчёт компании и материал The New York Times.
В документе описаны инциденты злоупотребления технологиями за последние восемь месяцев. В одном из зафиксированных в мае 2026 года случаев пользователь пытался составить с помощью ИИ заявку на грант по модификации вируса чикунгунья с целью повышения его летальности для живых организмов. Установив, что запрос исходил от лица, связанного с военным НИИ, компания заблокировала аккаунты.
Руководитель отдела анализа угроз Anthropic Джейкоб Кляйн пояснил, что разработчикам сложно точно определить исходные намерения исследователей, поскольку научные работы по созданию вакцин и синтезу опасных вирусов используют одинаковые механизмы. По этой причине сервис блокирует любые подозрительные активности превентивно. В отчёте также упоминаются попытки применить Claude в проектах, связанных с ракетными технологиями и шпионажем.
В компании отметили, что если прошлогодние версии нейросетей не могли оказать практической помощи в опасных биоисследованиях, то актуальные модели 2026 года уже способны решать комплексные научные задачи. Эксперты Совета по стратегическим рискам США в комментарии изданию призвали ограничить доступ к продвинутым моделям для широкой публики и предоставлять его только верифицированным специалистам.
Публикация отчёта совпала с уходом одного из ведущих исследователей Anthropic, заявившего об экзистенциальных рисках гонки ИИ. В то же время президент США Дональд Трамп отверг опасения об угрозе уничтожения человечества искусственным интеллектом, отметив перед журналистами, что его беспокоит исключительно сохранение лидерства США в технологической сфере.
Пока нет комментариев. Будьте первым!