Следующий рубеж для ИИ-агентов: взаимодействие между агентами и сетевые эффекты — Жан-Дени Грез, ...

Жан-Дени Грезе и его жена пользуются одним и тем же агентом, который может читать их почтовые ящики, включая письма, отправленные до их свадьбы, и ни одного из них это не беспокоит. Грезе — технический директор компании Town, а до этого семь лет занимал аналогичную должность в Plaid. Он начинает с того, что отвергает собственную тему. По его мнению, концепция «агент-агент» не является полезной. Любая система LLM — это, по сути, задача поиска: важно, находится ли нужная информация в контекстном окне в момент вызова инструмента. Идеал — это один агент, имеющий доступ ко всей информации мира. Блокирует это не длина контекста, а конфиденциальность, и он обращается к теореме Коуза: идеальная информация и нулевая стоимость транзакции приводят к оптимальному результату, а конфиденциальность — это и есть эта стоимость. Он оценивает пять реальных стратегий по тому, насколько точно каждая из них приближается к этому невозможному агенту. Граница общего доверия, например, агент отдела кадров с доступом самого младшего члена команды, популярна сегодня, но требует столько же людей, сколько совершенствуются модели. Пользовательские инструменты, которые жертвуют властью ради конфиденциальности, например, тот, который читает почту всех и возвращает только оценку связи. Общие хранилища данных, пополняемые агентом-чистильщиком, который ежедневно решает, что может покинуть личное пространство, полагая, что это принесет наибольшую выгоду в кратчайшие сроки. Люди выступают в роли проводника, который отправляет сигналы сотне людей, чтобы связаться с одним из них. И черный ящик, который без запроса обыскивает каждое хранилище, а затем запрашивает одобрение только у того, кому принадлежит информация, необходимая для ответа. Каждый из них пропускает данные по-своему. В его собственной вики-странице его агент по-прежнему называется Apex, хотя месяц назад он переименовал его в Ivy. Информация о спикере: https://x.com/jgreze https://www.linkedin.com/in/jeandenisgreze/ https://greze.com/ Временные метки: 0:00 - Агенты, работающие с другими агентами 1:20 - Многоагентные системы, переосмысленные как задача поиска 2:30 - Единственный агент, который может видеть всё 3:24 - Теорема Коуза и предел конфиденциальности 4:17 - Стратегия первая: граница общего доверия 5:28 - Почему этот подход не масштабируется с моделями 6:21 - Стратегия вторая: инструменты, которые обменивают власть на конфиденциальность 8:39 - Стратегия третья: общие хранилища и агент-уборщик 11:54 - Стратегия четвёртая: люди как канал связи 12:49 - Стратегия пятая: чёрный ящик 15:31 - Где происходит сбой, и навсегда отравленная вики 17:32 - Автоматический режим для обеспечения конфиденциальности и пересечение границ компании