Гоблины, призраки, монстры, богини: фантастические твари и где они обитают.
В конце апреля OpenAI опубликовала у себя в блоге пост, в котором объяснила, почему модели OpenAI то и дело говорят о гоблинах. А также о гремлинах.
Рубрика «галлюцинации»
Все демонические насельники ИИ… по старшинству
2026-06-28 в 10:11, admin, рубрики: большие языковые модели, галлюцинации, демонология, искусственный интеллект, Лоаб, нейронные сети, Нова, Сидни, сознание, шогготКак мы подключили LLM к поддержке, а получили идеального лжеца
2026-05-22 в 17:14, admin, рубрики: ассистент, галлюцинации, ИИ, поддрежкаГде‑то в начале года мы решили: давайте автоматизируем часть поддержки через LLM. Ну, знаете, идея тогда казалась почти очевидной.
Галлюцинации LLM — это артефакты сжатия. И это объясняет вообще всё
2026-03-31 в 16:52, admin, рубрики: gpt, llm, галлюцинации, искусственный интеллект, машинное обучение, научпоп, сжатие данных, теория информации, ШеннонПредставьте, что вам дают 10 терабайт текста и говорят запихнуть это в файл на 70 гигабайт. Да так, чтобы потом по любому вопросу можно было восстановить нужный кусок. Не точно, но близко, и не побайтово, но чтобы по смыслу билось.
Вы бы сказали: «так это же lossy-компрессия, часть данных неизбежно потеряется».
И были бы правы, потому что именно это делает LLM.
Предсказание = сжатие (и это не метафора)
Тут нужно кое-что объяснить, и это самое важное в статье.
Клод Шеннон доказал в 1948 году: предсказание следующего символа и сжатие данных — математически одно и то жеЧитать полностью »
Проблемы людей и нейросетей
2026-02-11 в 18:16, admin, рубрики: attention, llm, rag, агенты, вайбкодинг, галлюцинации, искусственный интеллект, контекст, нейросети, промпт-инжинирингЭта статья написана без участия ИИ. Для простых смертных. Упрощена.
Сейчас тренд на замену людей нейросетями, вайбкодинг, и другие вещи, которые завернуты в фантик «Беззаботного будущего», всё это мне напоминает предыдущий тренд, который был до появления ИИ — «Успешный успех». Нам продают не технологии, а чувства простоты, на которое люди каждый раз охотно ведутся.
По ощущениям, это тот же барабан с цифрами 777, нам показывают пару удачных прокруток, «джекпоты», счастливые лица, а реальная статистика, цена попыток, и неизбежные промахи остаются за кадром.
Я заставил 14 нейросетей врать: Большой аудит галлюцинаций 2026
2026-01-27 в 9:15, admin, рубрики: AI, chatgpt, deepseek, llm, безопасность, галлюцинации, искусственный интеллект, нейросети, тестированиеИли как я потратил неделю, чтобы доказать: ИИ сегодня — это красноречивые лжецы в костюмах экспертов.
В конце 2025 года я устал читать маркетинг в стиле «наша модель умнее ChatGPT на 15%». Умнее по какому бенчмарку? MMLU? Это всё равно что мерить интеллект человека по результатам ЕГЭ.
Я решил проверить одну простую вещь: способна ли нейросеть сказать «я не знаю»?
Потому что в реальном мире — в медицине, праве, финансах — ответ «я не уверен» стоит дороже любой красивой, но выдуманной истории.
Ниже — результаты слепого тестирования 14 топовых LLM (включая Claude 4.5, GPT-5.2, Gemini 3, Qwen, YandexGPT и Читать полностью »
Неудобные запросы для LLM: Как ложь может рассказать об истине?
2026-01-01 в 18:00, admin, рубрики: bias, галлюцинации, искусственный интеллектИногда, задавая нейронке один вопрос, неожиданно получаешь ответ на какой-нибудь другой, тоже интересный.
Ваше сознание вызывает галлюцинации, одновременно формируя ваше восприятие реальности
2025-12-20 в 14:16, admin, рубрики: галлюцинации, сознаниеУ вас сегодня были галлюцинации? Вы можете возразить, что у вас не только сегодня не было галлюцинаций, но и никогда в жизни их не было. На самом деле галлюцинации встречаются чаще, чем мы думаем, и они могут помочь нам больше узнать о работе мозга.
Как жить с галлюцинациями ИИ
2025-10-04 в 15:15, admin, рубрики: галлюцинации, искусственный интеллектЭта небольшая статья попытка подытожить свой опыт работы с ИИ в части галлюцинаций.
Circuit Tracing: как заглянуть в галлюцинации модели и найти там смысл
2025-09-26 в 18:30, admin, рубрики: circuit, llm, rag, tracing, transcoder, атрибуционная модель данных, галлюцинации, граф, детектор, интерпретируемость
Фантазии LLM воплощаются в реальности — фальшивые опенсорсные библиотеки
2025-09-14 в 18:23, admin, рубрики: llm, slopsquatting, галлюцинации, генерация кода, фальшивки