Генеральный директор Anthropic Дарио Амодеи опубликовал план по сдерживанию неконтролируемой разработки искусственного интеллекта («pace the frontier»). Об этом сообщает TechCrunch.
По словам главы компании, пересмотреть подход к безопасности его заставили недавний взлом систем OpenAI и Hugging Face, а также возросшая способность ИИ ускорять разработку собственных следующих поколений. Амодеи заявил, что компаниям необходимо осознанно ограничить темпы наращивания вычислительных мощностей и возможностей моделей.
В рамках предложенного плана Anthropic в одностороннем порядке согласилась внедрить независимых оценщиков из сторонних организаций вроде METR. Внешние эксперты получат постоянные рабочие места в офисе, корпоративную технику и уровень допуска, сопоставимый с внутренними командами по оценке рисков — по аналогии с банковскими регуляторами.
Вторым пунктом стратегии Амодеи назвал координацию между ИИ-компаниями из демократических стран для установления единых лимитов прогресса. Чтобы избежать антимонопольных претензий и обвинений в картельном сговоре, регуляторы США должны выдать разработчикам специальное разрешение на ведение совместных диалогов о безопасности.
Отвечая на опасения о возможном лидерстве Китая в случае искусственного замедления западных лабораторий, Амодеи отметил, что технологический отрыв можно сохранить другими мерами: ужесточением запретов на экспорт ускорителей и литографического оборудования, а также пресечением дистилляции моделей.
Пока нет комментариев. Будьте первым!