Рубрика «promt injection»

С распространением ИИ-ассистентов и чат-ботов появляется новая категория угроз, о которой пока мало кто говорит, но бизнес уже несёт реальные убытки. Не хватало нам DDOS атак и клик фрода, как активно начали применять:

Основные векторы кибератак на ИИ Агентов

AI везде. И не всегда там, где ты о нём просил

За последний год AI встраивается буквально во всё. Ещё недавно его приходилось отдельно запускать. Теперь он встроен везде:

  • Slack сам подсказывает тебе ответы.

  • Notion завершает мысли за тебя.

  • Google Docs правит твой текст «по смыслу».

  • Miro помогает составить диаграммы.

  • IDE пытаются написать код вместо тебя.

Даже те, кто не ставил себе отдельные плагины, уже взаимодействуют с AI каждый день. Он вшит в SaaS-продукты и работает в фоне. Иногда так, что пользователь об этом вообще не знает.

Вот здесь и появляется первый важный вопрос: Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js