OpenAI расформировала подразделение Preparedness, которое занималось оценкой экстремальных рисков от моделей искусственного интеллекта и разработкой мер по их предотвращению. Об этом сообщает Financial Times со ссылкой на источники.
Команда Preparedness оценивала потенциальные угрозы в таких чувствительных сферах, как биологическая безопасность и кибербезопасность, включая вероятность выхода систем из-под контроля. Теперь эти функции распределены по отдельным специализированным направлениям и переданы уже существующим подразделениям компании.
Реструктуризация произошла на фоне подготовки OpenAI к возможному IPO и реорганизации ее корпоративной структуры. Ранее стартап уже ликвидировал команды Superalignment (сверхразум) и AGI Readiness (готовность к сильному ИИ).
Параллельно компанию покинули ключевые специалисты по безопасности, включая руководителя отдела этики Хлою Бакалар, главного футуролога Джоша Ачиама и главу направления безопасности Йоханнеса Хайдеке. Бывшие сотрудники компании критикуют OpenAI за смещение фокуса с безопасности на быструю разработку коммерческих продуктов.
Дилан Скандинаро, возглавлявший команду Preparedness после перехода из Anthropic, останется в OpenAI. По данным источников, он сосредоточится на изучении рисков, связанных с рекурсивно самосовершенствующимся искусственным интеллектом.
Пока нет комментариев. Будьте первым!