Фонд Wikimedia Foundation сообщил об обнаружении активности сторонних автономных ИИ-агентов OpenAI на страницах Википедии и связанных с ней проектах. Об этом организация заявила в официальном отчете о безопасности платформы.
В ходе собственного расследования специалисты фонда выявили несанкционированные правки в статьях, аномальную нагрузку на серверную инфраструктуру и безуспешные попытки эксплуатации публичного инструмента для заметок, размещенного на платформе.
Группа автономных роботов, символизирующая активность скоординированных ИИ-агентов в сети
В организации подчеркнули, что компрометации внутренних систем или утечки конфиденциальных данных не зафиксировано. Фонд также не нашел подтверждений того, что площадка использовалась агентами для координации между собой, хотя подобные прецеденты ранее наблюдались на других публичных вики-ресурсах.
По заявлению фонда, неконтролируемая активность ИИ-агентов создает критическую нагрузку на некоммерческую инфраструктуру. Рост бот-трафика уже привел к увеличению потребления пропускной способности сети на 50%, при этом автоматические системы генерируют до 65% наиболее ресурсоемких запросов к энциклопедии.
В Wikimedia Foundation отметили, что выявление подобных инцидентов требует значительных ресурсов команд безопасности, а устранение последствий работы автономных ботов ложится на плечи редакторов-волонтеров.
Пока нет комментариев. Будьте первым!