Компания Mem0 представила две инновационные архитектуры памяти — Mem0 и Mem0g, которые значительно улучшают способность крупных языковых моделей (LLM) запоминать и использовать информацию в ходе продолжительных диалогов.
Эти разработки устраняют основное ограничение современных LLM: неспособность эффективно обрабатывать данные за пределами их контекстного окна, даже если оно расширено до миллионов токенов.
Как отметил генеральный директор Mem0 Таранджит Сингх, текущие системы часто “забывают” важные данные, такие как аллергии пациента в медицинских приложениях или детали поездки в планировщиках.
Решение Mem0 заключается в динамическом извлечении и обновлении информации.
На первом этапе система анализирует недавние сообщения и сводку диалога, выделяя ключевые факты.
На втором этапе она определяет, нужно ли добавить новые данные, обновить существующие или удалить противоречивые.
Это позволяет поддерживать актуальность памяти агента без перегрузки контекста.
Mem0g дополняет этот подход использованием графовых структур, где сущности (люди, события, объекты) представлены как узлы, а их отношения — как рёбра.
Это помогает ИИ устанавливать сложные связи, например, между датами поездок и соответствующими городами и мероприятиями.
Тестирование на наборе данных LOCOMO показало, что Mem0 снижает задержку на 91% и экономит более 90% токенов по сравнению с методами, загружающими полный контекст, при этом качество ответов остаётся на высоком уровне.
Mem0g демонстрирует схожую эффективность, но лучше справляется с задачами, требующими временных или логических связей.
Обе архитектуры превзошли шесть категорий систем, включая решения с открытым исходным кодом и ChatGPT.
Это открывает новые возможности для корпоративных приложений, таких как службы поддержки, медицинские сервисы и планирование.
Mem0 подходит для простых сценариев, тогда как Mem0g лучше справляется с комплексными задачами, например, анализом многомесячных диалогов.
Разработчики подчёркивают, что их подход не требует увеличения вычислительных ресурсов, что делает его экономически выгодным для бизнеса.