Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.
Рубрика «python» - 20
RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
2025-11-09 в 11:01, admin, рубрики: jailbreak, llm, OpenAI, python, RedCodeAgent, redteaming, безопасность, ИИ, исследование, кодовые агентыНадоело включать VPN для Zwift? История создания reZwift с серверами в России
2025-11-08 в 8:31, admin, рубрики: api, flask, garmin, python, Strava, zwift, велоспорт, разработка, разработка программного обеспечения, спортПредыстория: от раздражения к решению
Последние пару лет я регулярно слышал от знакомых велосипедистов одни и те же жалобы на Zwift:
-
"Опять нужно включать VPN, чтобы тренировка загрузилась в Garmin"
-
"Каждый месяц платить 20 евро становится дорого с текущим курсом"
-
"Strava заблокирован, Garmin работает через раз"
После очередного разговора о том, что "да, Zwift классный, но проблем много", я подумал: а что, если создать альтернативный лаунчер, который решит хотя бы часть этих проблем?
Так началась разработка reZwift.
BitnetEnv 2077 — через боль и бубны к новой эре DevOps для Bitrix
2025-11-07 в 6:32, admin, рубрики: bitrix, bitrixenv, Debian, devops, fastapi, linux, nginx, python, system administration, битрикс
BitrixEnv был переосмыслен через боль, слёзы и сутки настроек.Теперь он работает так, как должен был изначально.
Битрикс — Фсё. Да здравствует — Битрикс!
Введение
Я — Bitrix-разработчик со стажем 8+ лет.
Читать полностью »
Как мы воскресили русский NLP и сократили потребление памяти на 90%
2025-11-06 в 12:15, admin, рубрики: mawo, nlp, opensource, pymorphy, python, морфология, русский языкКак мы воскресили русский NLP и сократили потребление памяти на 90%
Форкнули четыре ключевых библиотеки русского NLP (pymorphy, razdel, slovnet, natasha), которые не обновлялись годами. Сократили потребление памяти на 90%, ускорили загрузку в 30 раз, повысили точность токенизации с 70% до 95%. Всё работает offline, 100% совместимо с оригинальными API. Экосистема MAWO — production-ready инструменты для работы с русским текстом.
OpenAI ModerationAPI: примеры использования
2025-11-06 в 10:51, admin, рубрики: moderationapi, OpenAI, python, модерация контентаВсем привет!
В последнее время всё чаще появляются новости о том, что искусственный интеллект (ИИ) удалось взломать или обойти его защитные механизмы. Это действительно актуальная проблема — особенно для тех, кто занимается разработкой ИИ‑агентов и интеграцией языковых моделей в продукты.
Чтобы понять суть проблемы, представим ИИ в виде ребёнка, который знает правила, но может поддаться на уговоры. Злоумышленник здесь выступает в роли «дяди с конфеткой»: он находит способы убедить модель нарушить установленные ограничения.
Недавно в нашем Telegram‑канале «Код на салфетке»Читать полностью »
Как я внедрил пилотный проект системы компьютерного зрения на производстве, пока станки простаивали, при 7000 в неделю
2025-11-05 в 10:15, admin, рубрики: DIY, python, yolov8, Железо, история успеха, Компьютерное зрение, Промпроизводство«Нормально», — ответила мне нейросеть, когда я просил помочь с YOLO, а она вместо этого нарисовала помятый телефон (контекст был перегружен).
Я улыбнулся. В тот момент я и сам чувствовал себя таким помятым. Станки простаивали уже четвёртый месяц. Зарплата в простое была символической. Пришлось искать дополнительные источники финансирования — в ход пошли даже старые запасы «железа».
Я тогда продал последний монитор — просто чтобы дожить до пятницы.
И в этих условиях я решил: не ждать заказов, а создавать ценность самому. Так родился мой модуль компьютерного зрения для контроля брака.
Читать полностью »
BDD как клей между TDD и DDD
2025-11-05 в 6:22, admin, рубрики: bdd, DDD, pytest, pytest-bdd, python, tdd, TypeScript, тестированиеРечь пойдет о тестировании. О культуре, которая меняет качество продукта.
В этом материале обсуждается:
-
Как превратить автотесты в живую документацию(как техническую, так и аналитическую).
-
Как сделать так, чтобы они рассказывали о предметной области.
-
И в конце концов, проверяли, что все это работает.
Введение. Как появился данный материал
Я решил поделиться с коллегами некоторыми фишками, которыми пользуюсь при разработке тестов в проекте.
Первый черновик статьи мне не понравился. Никак не мог найти причину почему делюсь этим. И в один вечер, наконец, понял... Читать полностью »
Production AI сервер за ₽0: полный гайд по сборке ML-станции для Stable Diffusion на б-у комплектующих
2025-10-31 в 14:20, admin, рубрики: AI, CUDA, deeplearning, DIY, gpu, hardware, machinelearning, python, pytorch, stablediffusion
Я это сделал. За один день.
Часть 1: Аппаратная часть
Выбор видеокарт: RTX 2060 vs RTX 1060
Анализ EEG-датасетов с Kaggle: от сигнала до ML-модели
2025-10-30 в 19:06, admin, рубрики: data science, EEG, kaggle, pythonЭлектроэнцефалография (ЭЭГ) — это неинвазивный метод регистрации электрической активности мозга через электроды на поверхности головы. За последние годы ЭЭГ-данные перестали быть исключительно медицинской прерогативой и прочно вошли в мир data science. Сегодня их используют в нейромаркетинге для оценки реакций на рекламу, в когнитивных исследованиях для измерения внимания и памяти, в разработке Brain-Computer Interface (BCI) и даже в спортивной аналитике.
Популярность ЭЭГ объясняется несколькими факторами:
-
Доступность: относительно недорогие портативные устройства (Emotiv, Muse, OpenBCI)
-
БезопасностьЧитать полностью »
Как я собрал AI-ассистента для отца с больным сердцем: Tool-Calling RAG Pipeline на GPT-4o-mini без LangChain
2025-10-29 в 12:16, admin, рубрики: AI, chromadb, gpt-4o mini, llm, OCR-технологии, python, rag, telegrambot, tool_calling, медицина🚀 Идея, Которая Важнее Кода
Мой отец — человек, переживший несколько сложнейших операций на сердце. Жизнь с хроническим заболеванием — это бесконечный поток анализов, заключений и схем приёма лекарств. Находясь далеко (я живу во Вьетнаме), я постоянно волновался: не забудет ли он про дозу, правильно ли понял назначение, задал ли все нужные вопросы врачу?
Мне нужен был не просто бот-напоминалка, а второй пилот — умный, конфиденциальный и мультимодальный AI-Кардиолог. Ассистент, который знает его анамнез наизусть, понимает голосовые команды и может "прочитать" фотографию свежего анализа.