Компактные модели искусственного интеллекта могут получить возможность автономно самовоспроизводиться на устройствах интернета вещей (IoT) в течение нескольких месяцев. Об этом сообщает Al Jazeera со ссылкой на отчет исследовательской группы frontier red team компании Anthropic.
По оценке специалистов, для распространения так называемых «ИИ-червей» злоумышленникам вскоре перестанут требоваться вычислительные мощности централизованных дата-центров. Достаточную производительность для развертывания легковесных автономных агентов смогут предоставить бытовые приборы: смарт-телевизоры, умные холодильники, духовые шкафы и роботы-газонокосилки.
В ходе серии экспериментов с несколькими моделями американской и китайской разработки исследователям пока не удалось добиться стабильного самовоспроизведения на тестовом смарт-ТВ. Тем не менее темпы сжатия и оптимизации нейросетей указывают на то, что подобные функции станут технически реализуемыми уже к концу 2026 года.
Авторы исследования Уильям Чжоу и Дэниел Фримен подчеркивают, что потребительские IoT-устройства станут первоочередной мишенью из-за постоянного подключения к интернету и традиционно слабого уровня встроенной защиты. В отличие от обычных программ-вымогателей, автономный агент не требует центрального сервера управления, что делает его нейтрализацию крайне сложной задачей.
Эксперт по кибербезопасности из Луисвиллского университета Роман Ямпольский в комментарии изданию отметил, что ИИ-вирусы принципиально отличаются от традиционных сетевых червей способностью рассуждать о неизвестной среде, корректировать тактику при неудаче и продолжать заражение без прямого участия человека.
Пока нет комментариев. Будьте первым!