Ramp Labs выдвигает новое решение для совместного использования памяти мультиагентами, при этом расход токенов снижается максимум на 65%

Новости Gate News: 11 апреля компания по инфраструктуре ИИ Ramp Labs опубликовала результаты исследования «Latent Briefing». Они достигаются за счет прямого сжатия KV-кэша больших языковых моделей для эффективного обмена памятью между многоагентными системами — при этом точность не снижается, а потребление токенов существенно уменьшается. В большинстве распространенных архитектур многоагентных систем оркестратор (Orchestrator) разбивает задачу и многократно вызывает модели рабочих (Worker). По мере того как цепочка рассуждений постоянно удлиняется, количество токенов растет экспоненциально. Ключевая идея Latent Briefing — использовать механизм внимания, чтобы выявлять в контексте действительно важные части, а на уровне представлений напрямую отбрасывать избыточную информацию, а не полагаться на LLM-сводки, которые работают медленно, или на RAG-поиск, который отличается нестабильностью. На бенчмарке LongBench v2 этот подход показал впечатляющие результаты: потребление токенов у модели Worker снизилось на 65%, для документов средней длины (от 32k до 100k) медианный объем сэкономленных токенов составил 49%, общая точность относительно базовой линии выросла примерно на 3 процентных пункта, при этом дополнительное время на каждое сжатие — лишь около 1,7 секунды, что ускоряет исходный алгоритм примерно в 20 раз. Эксперименты проводились с Claude Sonnet 4 в роли оркестратора и Qwen3-14B в роли модели рабочего, охватывая разнообразные сценарии документов, включая научные статьи, юридические документы, романы и правительственные отчеты. Исследование также выявило, что оптимальные пороги сжатия зависят от сложности задачи и длины документа: для сложных задач подходит более агрессивное сжатие, чтобы отфильтровать спекулятивный шум рассуждений, а для длинных документов лучше применять более легкое сжатие, чтобы сохранить разрозненные ключевые сведения.

Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.

Связанные статьи

ИИ-агент Манфред создаёт компанию и получает криптокошелёк до старта торгов в мае

AI-агент Manfred создал собственную компанию и получил криптокошелёк и бизнес-документы, хотя начинать торговлю криптовалютой он будет только в конце мая. Теперь агент готов нанимать сотрудников, осуществлять платежи и вести бизнес

GateNews5ч назад

MoonPay запускает MoonAgents Card — виртуальную Mastercard для AI-агентов и пользователей в пятницу

По данным The Block, MoonPay в пятницу запустила MoonAgents Card — виртуальную дебетовую карту Mastercard для AI-агентов и пользователей. Карта конвертирует стейблкоины в фиат непосредственно в момент оплаты и может использоваться у любых онлайн-мерчантов по всему миру, которые принимают Mastercard. Карта выпущена через Monavate, регулируемого платежного провайдера

GateNews8ч назад

MoonPay запускает MoonAgents Card в сети Mastercard в пятницу

По данным The Block, MoonPay запустила MoonAgents Card в пятницу — виртуальную дебетовую карту Mastercard, позволяющую AI-агентам и пользователям тратить стейблкоины напрямую из onchain-кошельков. Карта выпускается через Monavate, регулируемую глобальную платежную платформу и principal member Mastercard, в

GateNews11ч назад

137 Ventures закрывает $700M в новых фондах, AUM достигает 15 млрд долларов

По данным ChainCatcher, 137 Ventures, ранний инвестор в SpaceX, недавно завершила сбор средств для двух новых фондов на общую сумму свыше $700 миллионов, доведя объем активов под управлением до более $15 миллиардов. Новые средства пойдут на инвестиции в AI-агентов, робототехнику и космическую силовую установку

GateNews12ч назад

Reddit взлетает на 16% на сильный прогноз на 2-й квартал; Apple сталкивается с дефицитом Mac из-за того, что спрос на ИИ опережает поставки

Акции Reddit выросли на 16% до открытия рынка в пятницу после того, как компания опубликовала прогноз по выручке на следующий квартал выше ожиданий. Ежедневная активная аудитория увеличилась на 17% до 126,8 миллиона, а средняя выручка на пользователя по всему миру подскочила на 44%, благодаря AI-powered

GateNews12ч назад

Visa запускает агентскую программу Ready в Гонконге 1 мая, чтобы обеспечить платежи через AI-агентов

Согласно гонконгским СМИ Ming Pao, Visa запустила программу Visa Agentic Ready в Гонконге 1 мая, чтобы обеспечить платежи с помощью ИИ-агентов. Программа использует токенизацию, проверку личности, механизмы управления рисками и авторизации. Первые участники включают

GateNews15ч назад
комментарий
0/400
Нет комментариев