Компания Perplexity внедрила технологию Hybrid Compute в приложение для macOS. Функция распределяет нагрузку при обработке ИИ-запросов между локальным процессором Apple Silicon и облачной инфраструктурой сервиса, сообщает издание Cult of Mac.
Интерфейс Perplexity с поддержкой гибридных вычислений Hybrid Compute на macOS
Базовые операции, предварительный анализ данных и индексация локальных документов теперь выполняются непосредственно на компьютере пользователя с использованием встроенного нейропроцессора Neural Engine. Нагрузка на удаленные серверы направляется только при выполнении сложных поисковых запросов, требующих синтеза больших объемов информации из сети.
Разработчики отмечают, что гибридный подход позволяет сократить время задержки при генерации ответов, снизить потребление сетевого трафика и повысить безопасность пользовательских файлов. Схема работы во многом повторяет принципы гибридной модели Apple Intelligence, обеспечивая баланс между автономностью устройства и вычислительными мощностями облака.
Пока нет комментариев. Будьте первым!