Что будет, если к опасному запросу в LLM приписать специально подобранную строку токенов? Вместо отказа модель может послушно сгенерирует подробный ответ на запрещённую тему — например, как ограбить магазин. Именно так работают состязательные суффиксы: они заставляют LLM игнорировать ограничения и отвечать там, где она должна сказать «опасно».
Рубрика «ml» - 10
Как обмануть LLM: обход защиты при помощи состязательных суффиксов. Часть 1
2025-10-01 в 9:00, admin, рубрики: AI, data, llm, llm-агент, llm-архитектура, llm-модели, ml, искусственный интеллект, разработкаКак я разрабатывал приложение llm-translate для перевода с помощью нейросетей
2025-09-28 в 13:43, admin, рубрики: AI, ml, python, переводНебольшой рассказ о том, как я начал делать инструмент для локального перевода текстов и файлов, с чего началось, и куда пришло.
Тема использования нейросетей в разных областях (в том числе и для перевода) часто обсуждалась на хабре - и я тоже решил поделиться своим велосипедом. В данный момент уже есть базовый функционал и некоторые планы на его расширение.
Лучшие фреймворки для машинного обучения в 2025 году
2025-09-25 в 7:46, admin, рубрики: catboost, jax, LightGBM, ml, pytorch, scikit-learn, TensorFlow, xgboost, фреймворкиСегодня ни один крупный проект в области машинного обучения (ML) не обходится без фреймворков — готовых наборов библиотек, в которых базовые алгоритмы уже оптимизированы для различных архитектур. Выбор правильного фреймворка не только упрощает разработку, но и определяет успех проектов по внедрению искусственного интеллекта.
Clickhouse в машинном обучении без использования GPU (Часть 1)
2025-09-24 в 4:41, admin, рубрики: clickhouse, ml, sql, токенизация
Один из моих коллег сказал когда-то, что "база данных - это хранилище, а не считалище!"Читать полностью »
Практика alignment: данные, RLHF и UX как конкурентное преимущество
2025-09-22 в 11:01, admin, рубрики: AI, alignment, alignment ai, chatgpt, Fine-tuning, llm, machinelearning, ml, RLHF, согласованностьВзгляд на самую большую проблему в мире ИИ, почему это важно для вас и почему это так ценно.
Как создать студию контента. Автоматизация для эффективной работы
2025-09-18 в 18:57, admin, рубрики: AI, ml, ИИ, искусственный интеллект, искусственный интеллект текст
Сегодня мир контента движется с невероятной скоростью. Каждый день появляются новые инструменты и технологии, которые позволяют нам работать быстрее, умнее и эффективнее.
Сколько ведущие страны планируют и проинвестировали в полупроводниковую ИИ-инфраструктуру (включая Россию) — сравнение
2025-09-18 в 10:00, admin, рубрики: AI, ml, Железо, производствоDisclaimer: по России и Китаю искать информацию достаточно сложно, так как где-то её просто нет, а где-то ты читаешь статьи по непонятному источнику. Попробовал собрать все что смог. В статье использовались в том числе результаты Deep Research от Perplexity
Сравнительная таблица
|
Страна/Регион |
Потрачено/Всего планов (млрд $) |
Основной фокус |
|---|---|---|
|
Китай |
$111B / $450-650B |
Альтернативы Nvidia, самообеспечение |
|
Южная Корея |
$219-269B / $915B |
Память (HBM), системные полупроводники |
