На днях исследователь Цзянь Чжоу сообщил о критической уязвимости (CVE-2025-32434), затрагивающей все версии PyTorch до 2.5.1 включительно. Ошибка устраняется только обновлением версии до 2.6.0. Уязвимость соответствует критическому уровню риска, и позволяет злоумышленнику выполнить произвольный код на стороне жертвы без какого-либо взаимодействия с пользователем. Единственным условием является факт загрузки модели, созданной атакующим, даже при якобы безопасном параметре weights_only=True. Эта опция ранее считалась надежной, но, как выяснилось, не спасала от угроз.
Рубрика «owasp top 10»
MLSecOps: защита машинного обучения в эпоху киберугроз
2025-05-01 в 4:54, admin, рубрики: Data Poisoning, HiveTrace, LLAMATOR, mlsecops, owasp top 10, атака, защита, искусственный интеллект, кибербезопасность, машинное обучениеБезопасность приложений больших языковых моделей (LLM, GenAI)
2024-09-15 в 8:16, admin, рубрики: genai, llm, OWASP, owasp top 10, securityOWASP Top 10 для приложений LLM и GenAI: Руководство для разработчиков и практиков
Откройте для себя OWASP Top 10 для LLM и GenAI и изучите основные стратегии защиты ваших моделей и приложений искусственного интеллекта.