В этой статье мы рассмотрим как на оборудовании стоимостью от 1000$, с полностью локальными LLM и VLM на основе скриншотов и коротких пояснений генерировать грамотно написанные отчеты об уязвимостях самого широкого спектра, начиная от Web/мобилок, заканчивая инфрастурктурными уязвимостями Active Directory, k8s и так далее. Заглянем под капот VLM (Vision Language Model) и рассмотрим различные подходы к описанию уязвимостей.
Рубрика «llm» - 79
Пишем отчет о пентесте за 1 час на локальной LLM. Часть 1
2025-08-20 в 12:16, admin, рубрики: llm, redteam, vlm, отчеты, тестирование на проникновениеGPT-OSS-20B – 120B: Сухие цифры после реальных тестов
2025-08-20 в 9:16, admin, рубрики: GPT-OSS-120B, GPT-OSS-20B, H100 PCIe, llm, Ollama, RTX 4090 vs RTX 5090, TPS токены в секунду, vllm, VRAM использование, локальная LLMOpenAI выпустила GPT-OSS модели (https://huggingface.co/openai/gpt-oss-20b и https://huggingface.co/openai/gpt-oss-120b) , и сообщество немедленно начало экспериментировать. Но реальные бенчмарки производительности найти сложно. В этой статье представлены результаты нашего практического тестирования на арендованном железе через RunPod с использованием Ollama.
Ремарка: Тесты проводились на Ollama для быстрого деплоя. Если будете использовать vLLM, то производительность будет примерно +30%, но он слабо адаптирован под консьюмерские GPU, за исключением RTX 5090.
Что тестировалось:Читать полностью »
Эффективное использование LLM в командной строке
2025-08-19 в 18:43, admin, рубрики: bash, cli, commandline, llm, UNIX, искусственный интеллект, обработка документовЗачем
Использование ИИ проникло уже во все возможные сферы в ИТ. Мы применяем LLM модели как через Web так и подключая через специальный API в программном коде. Запускаем агентов кодогенерации и реализации других практических задач через специальные плагины или отдельные приложения. Рассмотрим ещё один интерфейс работы с GenAI — командную строку. Сразу предупрежу, мы не будем рассматривать код-агенты вроде Claude Code или AI-терминалы вроде Warp.
Корпоративный ИИ: краткое пособие для ИТ-директора
2025-08-19 в 17:23, admin, рубрики: llm, rag, SLM, искусственный интеллект, управлениеВведение
Данная статья была написана для крупнейшего сообщества цифровых управленцев я-ИТ-ы. Ее основная цель — дать тем, на чьих плечах сейчас лежит ответственность за выстраивание ИТ-инфраструктуры компаний, понимание технологического «сегодня» в сфере искусственного интеллекта (ИИ), решений, технологий, которые применяются и уже дают результат. И, что самое важное, обозначить вектор развития для понимания технологического «завтра», чтобы инфраструктура и процессы строились с учетом всех изменений, происходящих в этой весьма динамичной сфере.

Исследователю-эпиграфисту не всегда достаётся идеальная каменная табличка с целой надписью. Чаще всего это фрагмент с выбитыми кусками, затёртыми словами и отсутствующими датами, из которого нужно не только восстановить текст, но и понять, кто его оставил, где, когда и зачем.
Бенчмарк качества распознавания речи (ASR) в телефонии: как мы сравниваемся с Whisper, GigaAM и T-One
2025-08-19 в 6:13, admin, рубрики: asr, llm, speech recognition, бенчмарки, звонки, распознавание речи, распознавание русской речи, телефония, языковые моделиПривет! Распознаванием речи (ASR) уже никого не удивишь, но качественное распознавание на разговорном русском языке, а особенно в телефонии — очень сложная штука: люди редко говорят как профессиональные дикторы, часто бывает плохое качество звука с постоянными шумами на фоне и в целом есть миллиарды прочих нюансов. Наша компания занимается голосом больше 8 лет, есть собственные классные модели синтеза, распознавания и продукты на их основе, поэтому экспериментов мы проводим очень много и за появлением новых голосовых моделей следим очень внимательно.
Насколько LLM усложняет работу программиста
2025-08-18 в 9:01, admin, рубрики: claude code, llm, ruvds_статьи, Software 3.0, автономные агенты, вайбкодинг, ИИ, производительность, скорость программирования
На фоне общего хайпа вокруг ИИ холодным душем стали июльские Читать полностью »
GPT-4o: последний взгляд
2025-08-18 в 6:00, admin, рубрики: AI, AI-assisted backend, chatgpt, java, llm, ИИ, ии-ассистент, нейросетиКак заменить GitHub Copilot на полностью офлайн‑Continue Plugin
2025-08-18 в 4:31, admin, рубрики: copilot, idea, java, llm, lmstudio, автодополнение, генерация кодаВ этом посте я покажу, как использовать Continue Plugin вместо GitHub Copilot, подключив к нему собственную локальную модель LLM без доступа к интернету. Такой подход обеспечивает максимальную конфиденциальность: ни IDE, ни LM Studio не имеют возможности передавать ваши файлы в облако.
Никакой сети – всё работает только в вашем компьютере.
Что такое Continue и зачем он нужен
|
Плагин |
Функции |
Как работает |
|---|---|---|
|
Continue |
Генерация кода, исправление ошибок, чат‑режим по коду |
