Каждую неделю мы обсуждаем новую дыру в ИИ‑агентах. Здесь была промт‑инъекция. Там утекли секреты. Тут агент удалил базу, а у них отправил письмо не тому человеку. Складывается ощущение, что уязвимостей становится всё больше. На мой взгляд, почти все они сводятся к одному архитектурному анти‑паттерну. Если научиться замечать его, многие проблемы станут очевидны ещё на этапе проектирования. В русскоязычных публикациях эту модель в основном упоминают вскользь; подробных разборов почти нет. Мне же кажется, что это настолько общий принцип, что он заслуживает отдельной статьи.
Рубрика «эксфильтрация»
Анти‑паттерн ИИ: Смертельная триада
2026-07-25 в 11:01, admin, рубрики: lethal trifecta, архитектура, эксфильтрацияСколько информации можно передать через вентилятор CPU
2016-06-25 в 10:51, admin, рубрики: air-gapping, rpm, SNR, SpeedFan, амплитудная модуляция, вентилятор, Железо, звук, информационная безопасность, кулер, Настольные компьютеры, частотная модуляция, эксфильтрация, метки: SpeedFan15 бит в минуту
Съём информации с изолированного компьютера, который не подключен к сети (air-gapped), представляет сложную, но интересную задачу. За последние десять лет разработано несколько способов такой эксфильтрации данных: например, запись электромагнитного излучения видеокарты и различных компонентов на материнской плате [1],
[2], [3], [4], распознавание нажатий клавиш по звуку, съём информации по оптическому [5] и термальному [6] каналам, передача аудиосигнала через динамики в слышимом и неслышимом диапазонах частот [7], [8], [9], радиопередача с монитора на AM-радиоприёмник [10] и другие.
Но никому прежде не приходила в голову передавать поток информации, изменяя скорость вращения вентилятора. А ведь это кажется тривиальной идеей.
Вредоносную программную систему под названием Fansmitter разработали Андрей Дайдакулов, Иосеф Солевич, Ювал Еловичи и Мордечай Гури и из научно-исследовательского центра компьютерной безопасности в университете имени Бен-Гуриона.
Читать полностью »