ИИ-роутеры, которые распределяют запросы пользователей между различными
языковыми моделями, могут стать серьезным источником утечек конфиденциальной
информации. Исследователь Чаофань Шоу сообщил об обнаружении чувствительных
учетных данных в массиве объемом около 6 ТБ, полученном из сессий китайского
LLM-роутера. Среди них были данные, связанные в том числе с ИИ Claude компании
Anthropic.
LLM-роутеры выступают посредниками между пользователем или ИИ-агентом и
нейросетью. Они принимают запрос, выбирают подходящую модель и передают ей
данные. При этом сервис может сохранять подробные журналы, в которых остаются
не только запросы и ответы, но и вызовы внешних инструментов и различные
технические метаданные.
Проблема возникает, когда разработчики или автономные ИИ-агенты передают
моделям секретную информацию, необходимую для выполнения задач. В запросах
могут оказаться SSH-ключи, настройки VPN, ключи облачных API, токены GitLab и
другие данные, открывающие доступ к реальным информационным системам. Если
посредник сохраняет такой трафик без достаточной защиты, его журналы фактически
превращаются в хранилище готовых учетных данных.
По словам Шоу, в изученном массиве нашли действующие секреты, которые
потенциально могли предоставить доступ к системам китайских государственных
организаций и крупных технологических компаний. Среди упомянутых исследователем
компаний — Xiaomi, Huawei, NIO и MiniMax. Наличие действующих ключей делает
подобные утечки особенно опасными: злоумышленнику не обязательно искать
уязвимость в инфраструктуре самой компании, если необходимые данные для
авторизации уже оказались в логах посредника.
