Anthropic и консалтинговая компания Accenture объявили о партнерстве, в рамках которого планируют инвестировать не менее $2 млрд за пять лет в независимую оценку передовых моделей искусственного интеллекта. Об этом сообщает ForkLog со ссылкой на официальное заявление сторон.
Каждый участник сделки вложит как минимум по $1 млрд. Непосредственной реализацией программы займется специализированное ИИ-подразделение Faculty, входящее в состав Accenture. В перечень задач войдут редтиминг, проверка моделей на соответствие этическим нормам и ограничениям (alignment), а также тестирование защитных механизмов.
Проект базируется на концепции «встроенных оценщиков» (embedded evaluators), которую CEO Anthropic Дарио Амодеи представил летом 2026 года. Внешние эксперты получат доступ к внутренним системам разработчика наравне со штатными сотрудниками. Это позволит им непрерывно отслеживать этапы обучения ИИ, контролировать процессы развертывания, анализировать внутренние решения лаборатории и выявлять уязвимости в процессах безопасности.
В Anthropic признали, что прямое финансирование работы аудиторов создает потенциальный конфликт интересов в вопросе их независимости. В долгосрочной перспективе компания рассчитывает перевести подобные проверки на финансирование из государственных субсидий или независимых отраслевых пулов. Соглашение не является эксклюзивным: параллельно Anthropic ведет переговоры о запуске аналогичных пилотных проверок с некоммерческой исследовательской организацией METR.
Ранее Дарио Амодеи публично выступал за контролируемое замедление темпов разработки систем frontier-уровня из-за растущих рисков безопасности. В то же время генеральный директор Nvidia Дженсен Хуанг высказывался против регуляторного сдерживания отрасли, назвав безопасность ИИ исключительно «инженерной задачей».
Пока нет комментариев. Будьте первым!