Исследователи представили новый метод рассуждений для ИИ, снижающий стоимость вычислений

Исследователи представили альтернативный подход к формированию логических цепочек в моделях искусственного интеллекта, способный существенно снизить вычислительные расходы на этапе инференса. Об этом сообщает профильное издание Live Science.

Большинство современных систем с поддержкой рассуждений используют метод расширенной генерации промежуточных токенов (Chain of Thought), при котором нейросеть пошагово расписывает мыслительный процесс перед выдачей ответа. Такой подход требует значительно больше вычислительных мощностей серверов и увеличивает себестоимость каждого пользовательского запроса.

Концептуальная иллюстрация вычислений и алгоритмов искусственного интеллекта

Новый метод оптимизирует пространство поиска решений, отсекая избыточные логические ветви еще до генерации текстовых токенов. За счет структурированной фильтрации промежуточных гипотез модель тратит меньше ресурсов на проверку тупиковых вариантов решения математических и логических задач.

По оценкам исследователей, переход на оптимизированные алгоритмы рассуждений позволит развертывать производительные аналитические модели на более доступном оборудовании, снижая зависимость разработчиков от дорогостоящих кластеров ускорителей.