Рубрика «безопасность» - 2

в 14:38, , рубрики: chatgpt, claude, vpn, безопасность, дата-брокеры, ИИ, приватность, сезон ии в разработке

Команда AI for Devs подготовила перевод резонансного расследования о том, как "приватные" VPN-расширения на самом деле зарабатывают на ваших ИИ-переписках. 8 миллионов пользователей, Featured-бейджи от Google и Microsoft, полный доступ к ChatGPT, Claude и Gemini — и всё это утекает дата-брокерам. История о том, почему обещания безопасности в браузере стоит читать особенно внимательно.

Несколько недель назад я ломал голову над важным жизненным решением. Как я уже привык делать, я открыл Claude и начал размышлять вслух — раскладывал варианты, взвешивал компромиссы, просил взгляда со стороны.

Читать полностью »

в 1:02, , рубрики: Yandex, безопасность, геолокация, девушка, комплейн, поддержка, приложение, саппорт, такси, яндекс

Прошло почти 5 лет с момента вскрытия уязвимости кнопки "Безопасность" в сервисе Яндекс.Такси, который ныне зовётся YandexGo. Но я снова решил сожрать тот же кактус.

Яндекс "пытается" до меня дозвониться.

Яндекс "пытается" до меня дозвониться. Читать полностью »

в 15:10, , рубрики: chatgpt, copilot, cursor, deepseek, GigaChat, llm, OpenAI, yandexgpt, безопасность, хранение данных

в 20:28, , рубрики: Anthropic, автономные агенты, безопасность, взлом, ИИ, кибератака, угрозы, угрозыч, шпионаж, эксплойты

Команда AI for Devs подготовила перевод статьи о первой зафиксированной кибератаке, почти полностью выполненной ИИ. Атака, где человек нужен лишь для того, чтобы пару раз «подтвердить заказ», — и это уже не фантастика, а реальность 2025 года.

Недавно мы утверждали, что в кибербезопасности наступил переломный моментЧитать полностью »

в 14:08, , рубрики: автомобили, автономное вождение, автопром, безопасность, гаджеты, голосовое управление, искусственный интеллект, умные технологии

Недавно я переехала из маленького городка в большой город. Раньше у меня был автомобиль, а сейчас он ушел к другому владельцу, и как будто бы надо купить новый, но я всё чаще задумываюсь, а нужен ли он мне вообще?!

Автомобиль по-прежнему средство передвижения, или снова роскошь? - 1Читать полностью »

в 7:05, , рубрики: безопасность, биомониторинг, биосенсоры, датчики, инженерия, канареечное тестирование, Компьютерное зрение, технологии, эволюция, экология

В Варшаве судьбу водопровода решают восемь моллюсков. Не инженеры, не лаборанты с пробирками, не автоматические анализаторы за миллионы злотых, а обычные речные беззубки размером с ладонь, выловленные в чистых водоемах. Они сидят в проточных резервуарах на главной насосной станции, фильтруют воду и... всё. Пока створки раковин открыты - два миллиона человек получают воду из кранов. Стоит моллюскам почуять что-то неладное и захлопнуться - подача автоматически блокируется по всему городу.

Читать полностью »

в 11:01, , рубрики: jailbreak, llm, OpenAI, python, RedCodeAgent, redteaming, безопасность, ИИ, исследование, кодовые агенты

Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.

Читать полностью »

в 14:16, , рубрики: автономный транспорт, безопасность, беспилотные аппараты, будущее здесь, измерения, навигация, роботизация, сделай сам, экология

30-31 октября 2025 года в Каспийске в рамках цифрового форума был представлен компактный беспилотный надводный аппарат (БНА) Navis - российская разработка, призванная обеспечить развитие отечественной отрасли интеллектуальных надводных систем для решения широкого спектра задач по управлению и контролю водных объектов, подводных коммуникаций, поиску затонувших предметов, проведению точных измерений и обеспечению безопасности на воде и под водой.

Читать полностью »

в 20:36, , рубрики: безопасность, законодательство, искусственный интеллект, регуляторика

Появление новых технологий часто открывает новые пространства для злоумышленников - возникают новые вектора атак, а технологии защиты зачастую не поспевают за ними.

В таких условиях коммерческие институты инициируют разработку фреймворков, стандартов и продуктов новых классов. Еще эффективнее идет развитие, когда коммерческий блок объединяет усилия с регуляторами, сейчас такое содействие организовывается, например, в рамках консорциума "Исследований безопасности технологий ИИ".

Читать полностью »

в 13:50, , рубрики: ai-агенты, Anthropic, DeepMind, llm, meta, OpenAI, prompt injection, RuleOfTwo, адаптивные атаки, безопасность

Команда AI for Devs подготовила перевод краткой выжимки свежих статей о безопасности LLM. Meta предлагает «Правило двух» — архитектурный принцип, ограничивающий права AI-агентов, чтобы защитить их от prompt injection. А исследователи из OpenAI, Anthropic и Google DeepMind показывают: все существующие защиты легко обходятся адаптивными атаками.

На этих выходных мне попались две интересные работы о безопасности LLM и атаках через prompt injection.

Agents Rule of Two: Практический подход к безопасности AI-агентов

Первая статья — Agents Rule of Two: A Practical Approach to AI Agent SecurityЧитать полностью »

123...1020...171
Главная   |  Архив новостей  |   Android  |   Google  |   Apple  |   Microsoft  |   Информационная безопасность  |   Веб – разработка
Публикации RSS  |  Комментарии RSS
https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js