LLM могут принимать на вход все большее количество токенов, но большое количество переданных на вход токенов, включая промт, контекст и историю переписки, не равно качеству ответа.
В идеале на вход LLM нужно передавать минимально достаточный набор данных для получения ожидаемого качественного ответа.
Больше деталей о развии проекта, RAG и ИИ-агентах в @aigentto.
Основные выводы
В этом исследовании мы рассмотрели уязвимости, которые влияют на любые агенты на базе Large Language Model (LLM), которые могут выполнять код, загружать документы и получать доступ в Интернет.
Они могут позволить злоумышленникам запускать несанкционированный код, вставлять вредоносный контент в файлы, получать контроль и допускать утечку конфиденциальной информации.
Организациям, использующим искусственный интеллект (ИИ) для математических вычислений, анализа данных и других сложных процессов, следует проявлять бдительность в отношении связанных с этим рисков безопасности.
Друзья, приветствую! Надеюсь, успели соскучиться.
Последние пару месяцев я с головой ушёл в исследование интеграции ИИ-агентов в собственные Python-проекты. В процессе накопилось немало практических знаний и наблюдений, которыми просто грех не поделиться. Поэтому сегодня я возвращаюсь на Хабр — с новой темой, свежим взглядом и с намерением писать чаще.
На повестке дня — LangGraph и MCP: инструменты, с помощью которых можно создавать действительно полезных ИИ-агентов.
Привет! Сегодня публикуем интервью с Русланом Давлетшиным, CTO в Hyperskill и членом программного комитета серии митапов для мобильных разработчиков AppsConf X. Главной темой беседы стала хайповая сейчас тема искусственного интеллекта
Мы поговорили с Русланом о том, как мобильным командам быстро проверять гипотезы, как им удалось сделать семь приложений за семь недель, какие инструменты использовать и какое будущее ждёт разработку, когда генеративный ИИ станет частью повседневности.
Большой Дайджест Недели.
Новости. Смыслы. Инсайты.
Если кто-то считает, что социумом движет здравый смысл, он глубоко ошибается. В 21 веке обществом движет информационное давление, жажда наживы и примитивные эмоции, искусно направляемые теми, кто извлекает из этого выгоду. Я к тому, что ИИ-агенты будут работать даже если это было бы в принципе невозможно.
=> "Если хотите картинку будущего, представьте себе людей, постоянно проверяющих результаты за ИИ"
Capgemini провели глобальный опрос 1500 руководителей организаций в 14 странах, годовая выручка каждой из которых превышает 1 миллиард долларов. Организации работают в 13 секторах. Все они начали изучать возможности агентного ИИ. Глобальный опрос проводился в апреле 2025 года. Опрошенные руководители занимают должности уровня директора и выше. Из них 60% работают в сфере обработки данных и ИИ, а 40% в различных бизнес-подразделениях.
Экономический прорыв на горизонте. Агентный ИИ способен принести мировой экономике до $450 млрд к 2028 году, Читать полностью »
Этот вводная часть открывает серию статей о уязвимостях агентов ИИ, в которых изложены ключевые риски безопасности, например инъекция подсказок ввода и исполнение кода. Также заложены основы для будущих частей, где будут подробно рассмотрены недостатки исполнения кода, утечки данных и угрозы доступа к базам данных.
От автора
Разбираемся с тем, как накрывающие друг друга волны хайпа в безбрежном океане ИИ влияют на наши профессиональные схемы работы по удостоверению персональных данных (ПД). Последняя волна так или иначе связана с ИИ агентами, но как выяснилось, не только.
В этой статье мы погрузимся во внутреннее устройство Claude Code - Coding агента от Anthropic. Мы проанализируем его с точки зрения архитектуры, рассмотрим доступные инструменты и разберем системные промпты, которые определяют его поведение.
Я заменил его стандартную модель claude на GPT-4.1, что позволило мне детально проанализировать логи, архитектуру и системные промпты, определяющие его поведение.
