За последнее время большие языковые модели (LLM) стали привычным инструментом для анализа и работы с текстом. Но, что важно, качество ответа зависит не только от самой модели, но и от того, как именно задан запрос.
Рубрика «галлюцинации» - 2
Не «ты — эксперт », а «думай так» — альтернативный промтинг для LLM
2025-09-05 в 11:30, admin, рубрики: reasoning, галлюцинации, ИИ, промт, промтинг, творческое мышление, творчествоГаллюцинации и многообразия. Зачем искусственному интеллекту многомерные миры
2025-07-19 в 8:36, admin, рубрики: биоинформатика, галлюцинации, глубокое обучение, искусственный интеллект, многообразияСейчас на Хабре много пишут о галлюцинировании нейронных сетей и больших языковых моделей в частности. Хорошим введением в эту тему, написанным с философских позиций, мне представляется текст уважаемого Дэна Рычковского @DZRobo «Когда ИИ закрывает глаза: путешествие между воображением и галлюцинациями». Базовое техническое погружение в тему вы найдёте в статье уважаемой @toppal «Причины возникновения галлюцинаций LLM», это перевод академической статьиЧитать полностью »
«Тупой ИИ» с нами надолго. Почему в новых моделях больше галлюцинаций
2025-06-30 в 9:01, admin, рубрики: Chain-of-Thought, claude 3.7 sonnet, llm, lrm, ruvds_статьи, антропоморфизация, галлюцинации, дезинформация, рассуждающие модели, функция рассуждения, языковые модели
В последние несколько месяцев ведущие модели обновились с функцией «рассуждений» (reasoning). Предполагалось, что качество ответов улучшится. Но последующие тесты показали, что уровень галлюцинаций сильно вырос. И это не какая-то случайная недоработка разработчиков, а фундаментальное свойство. Сейчас становится очевидным, что от галлюцинаций мы не избавимся никогда. Читать полностью »
Как я не дал ИИ сойти с ума: гайд по промптам и багам
2025-05-19 в 16:48, admin, рубрики: баги, вероятность, галлюцинации, галлюцинации ИИ, генерация, генерация кода, ИИ, код, нейросеть, промты
Я джун. И я давно подсел на ИИ: он помогает мне с кодом, пишет письма, даже шутит (иногда слишком по-дружески с багами). По данным McKinsey, больше 75% компанийЧитать полностью »
Галлюцинации моделей текстовых ИИ, и как с ними бороться
2025-05-16 в 14:05, admin, рубрики: chatgpt, claude, gemini, grok, nature, timeweb_статьи, галлюцинации, искусственный интеллект, нейросеть
AI-агенты в реальном мире: почему они не работают и как это исправить
2025-04-29 в 14:30, admin, рубрики: claude, gpt, llm, llm-модели, бенчмарки, галлюцинации, инженерия надежности, оценка, парадокс ДжевонсаМеня зовут Александр, я COO в SaaS-платформе аналитики данных. Последний год активно изучаю внедрение AI-решений в кросс-функциональные процессы. Делюсь полезными материалами, которые считаю стоят внимания. В основном про AI, изменение процессов, тренды и продуктовое видение.
У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей.
Статья на основе презентацииЧитать полностью »
«Ошибка на миллиард» в ИИ: боремся с галлюцинациями в LLM по аналогии с NullPointerException
2025-03-18 в 10:13, admin, рубрики: deepseek, llm, lora, saiga, галлюцинации, ИИ, модели, нейросетиПривет! Меня зовут Денис Березуцкий, я старший инженер по разработке ПО искусственного интеллекта в YADRO. В ML-команде мы разрабатываем системы, которые облегчают работу нашим заказчикам с помощью текстовых генеративных нейросетей: реализуем Читать полностью »
Причины возникновения галлюцинаций LLM
2025-01-20 в 10:26, admin, рубрики: llm, большие языковые модели, галлюцинации, галлюцинации ИИ, галлюцинирование нейросетейВ данной статье будет представлен укороченный и упрощенный перевод статьи “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”. А именно перевод части, относящейся к причинам возникновения галлюцинаций. Упрощение состоит в том, что были опущены части, уходящие в конкретику. В этом переводе мы сосредоточимся на основных причинах возникновения галлюцинаций и примерах.
Super Ethical Reality: о чем нужно задуматься прежде, чем использовать LLM в разработке
2024-12-28 в 8:31, admin, рубрики: llm, безопасность, галлюцинации, машинное обучение, цензура, этикаСтоит ли нам доверять тому, что не способно осознавать последствий своих действий? Кажется, что ответ очевиден, но по мере развития ниши лингвистических моделей мы всё чаще поручаем ИИ выполнять за нас часть рутинных задач.
Меня зовут София, я сотрудница RnD-отдела компании RaftЧитать полностью »
Галлюцинации в LLM и методы борьбы
2024-12-06 в 8:38, admin, рубрики: llm, rag, галлюцинации, дообучениеОдна из основных проблем использования больших языковых моделей (LLM) в бизнесе заключается в том, что LLM склонны к галлюцинациям. Как можно доверить своих клиентов чат-боту, который может слететь с катушек и в любой момент сказать что-то неуместное? Или как можно доверять корпоративному AI-ассистенту, если он рандомно придумывает факты?