Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.
Рубрика «безопасность» - 4
RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
2025-11-09 в 11:01, admin, рубрики: jailbreak, llm, OpenAI, python, RedCodeAgent, redteaming, безопасность, ИИ, исследование, кодовые агентыКомпактный быстросборный беспилотный катамаран NAVIS от NaviLogics на III Международном Каспийском цифровом форуме
2025-11-08 в 14:16, admin, рубрики: автономный транспорт, безопасность, беспилотные аппараты, будущее здесь, измерения, навигация, роботизация, сделай сам, экология30-31 октября 2025 года в Каспийске в рамках цифрового форума был представлен компактный беспилотный надводный аппарат (БНА) Navis - российская разработка, призванная обеспечить развитие отечественной отрасли интеллектуальных надводных систем для решения широкого спектра задач по управлению и контролю водных объектов, подводных коммуникаций, поиску затонувших предметов, проведению точных измерений и обеспечению безопасности на воде и под водой.
Как Россия регулирует безопасность ИИ
2025-11-07 в 20:36, admin, рубрики: безопасность, законодательство, искусственный интеллект, регуляторикаПоявление новых технологий часто открывает новые пространства для злоумышленников - возникают новые вектора атак, а технологии защиты зачастую не поспевают за ними.
В таких условиях коммерческие институты инициируют разработку фреймворков, стандартов и продуктов новых классов. Еще эффективнее идет развитие, когда коммерческий блок объединяет усилия с регуляторами, сейчас такое содействие организовывается, например, в рамках консорциума "Исследований безопасности технологий ИИ".
Что делать, когда нашел эксплойт: шпаргалка, как помочь владельцу решения
2025-11-03 в 8:00, admin, рубрики: selectel, безопасность, кибербезопасность, эксплойт
Привет! Я Никита, инженер-инсталлятор в SelectelЧитать полностью »
В английском алфавите 26 букв. С учётом заглавных букв (+26) и цифр (+10) получается 62 символа. Это значит, что для взлома пароля длиной 
символов, состоящего только из букв и цифр, злоумышленник должен перебрать Читать полностью »
Тотальная деанонимизация: как в мире и в России обсуждают вход в Сеть по паспорту и цифровые ID
2025-10-26 в 12:30, admin, рубрики: безопасность, безопасность в сети, безопасность данных, доступ, доступ в интернет, доступ к данным, интернет, ограничение доступа, ограничение прав, ограниченияСтремительное развитие цифровизации и рост онлайн-угроз по всему миру ставят перед правительствами вопрос о необходимости контроля и идентификации пользователей. Пока в Европе тестируют цифровые удостоверения личности и возрастные ограничения для соцсетей, а Китай запустил национальный цифровой ID, в России также активизировалась дискуссия о деанонимизации.
ID по паспорту для контента 18+: российская инициатива
На этой неделе в России активно обсуждается предложение члена Общественной палаты Евгения Машарова о введении обязательной идентификации личности по паспорту для доступа к контенту 18+.
Аргументы "за":Читать полностью »
Парадокс безопасности локальных LLM
2025-10-25 в 13:04, admin, рубрики: eval, exec, llm, атаки, безопасность, бекдор, локальные модели, приватность, разработкаКоманда AI for Devs подготовила перевод исследования о парадоксе безопасности локальных LLM. Если вы запускаете модели на своём сервере ради приватности, эту статью стоит прочитать. Эксперименты показывают: локальные модели вроде gpt-oss-20b куда легче обмануть, чем облачные аналоги. Они чаще вставляют вредоносный код, не замечая подвоха, и превращаются в идеальную цель для атак.
Если вы запускаете локальную LLM ради приватности и безопасности, эта статья must have. Наше исследование модели gpt-oss-20b (в рамках Red-Teaming Challenge от OpenAIЧитать полностью »
Разбираем «Telega» по винтикам: «бесплатный» сыр только в мышеловке
2025-10-23 в 13:05, admin, рубрики: android, безопасность, приватность, реверс-инжинирингHack Time!
На днях мне на глаза попалось громкое расследование Dmytro Tarasenko (он же iTaysonLab).
Именно он провёл декомпиляцию APK нового приложения "Telega", выявил связи с инфраструктурой VK, Catogram и сделал публичную публикацию подробностей на Telegram-канале BruhCollective.
Коллеги вскрыли множество тревожных фактов, но мне, как любителю копаться в кишках приложений, захотелось пойти дальше, подтвердить их находки и найти то, что ускользнуло от динамического анализа.
Я решил провести полный статический анализ APK, выполнив деобфускацию кода, чтобы
Читать полностью »
Защита своих данных и финансов
2025-10-07 в 14:17, admin, рубрики: 2FA-аутентификация, безопасность, защита информации, лайфхаки, личные данные, мошенничество, пароли, простые правилаАктуальность защиты данных
Технологии открывают новые возможности и создают простор для мошенников, которые зарабатывают обманным путем.
В 2024 году, по оценке ЦБ РФ, похищено 27,5 млрд. рублей. Также в СМИ пестрят заголовки, что эксперты СБЕРА оценивают ущерб от телефонного мошенничества в 295 млрд. рублей. Цифры ужасают масштабом: объемы хищений растут высокими темпами, по сравнению с 2023 годом выросло на 74,36%. Под угрозой может оказаться каждый.