OpenAI уволила нескольких специалистов по безопасности искусственного интеллекта после внутренней проверки, связанной с поиском источников утечек конфиденциальной информации. Об этом бывшие сотрудники лаборатории Томек Корбак и Микита Балесни рассказали в интервью The Wall Street Journal и подкасту Machine Gods, сообщает The San Francisco Standard.
Поводом для разбирательства послужила публикация издания The Information о новой модели Astra. В материале сообщалось, что разработчики применили архитектурный подход, скрывающий ход рассуждений нейросети, что затрудняет ее внешний аудит на предмет угроз.
В ходе поисков информатора служба корпоративной безопасности OpenAI потребовала от Корбака и Балесни предоставить историю их контактов с экспертами независимой организации METR (Model Evaluation & Threat Research), занимающейся тестированием рисков ИИ. Корбак подтвердил, что действительно координировал взаимодействие с METR, однако общение велось через мессенджер Signal с активированной функцией автоудаления сообщений.
Из-за отсутствия архива переписки служба безопасности сочла подозрения обоснованными, и через неделю исследователи были уволены вместе с коллегой Жасмин Ванг. По словам Корбака, внутри компании фактически сработала презумпция вины: невозможность предоставить удаленную переписку руководство расценило как попытку скрыть факт несанкционированной передачи данных.
В комментарии для The Wall Street Journal представители OpenAI подтвердили, что компания не одобряет использование Signal сотрудниками для рабочих вопросов. При этом в стартапе подчеркнули, что включение исчезающих сообщений стало не единственным фактором, а увольнения произошли из-за прямого нарушения внутренних регламентов обращения с конфиденциальными данными.
Комментарии и обсуждение
Пока нет комментариев. Будьте первым!