Рубрика «галлюцинации ИИ»

Как спасти ИИ в эпоху, когда ИИ убивает сам себя?

2026-03-10 в 9:15, admin, рубрики: llm, model collapse, галлюцинации ИИ, обучение нейросетей, синтетические данные

«Все крупные корпорации и социальные сети уже давно хотят помечать контент, созданный искусственным интеллектом, отдельным специальным признаком. Безусловно, можно говорить о том, что это делается ради заботы о пользователях — чтобы люди не сидели бесконечно и не потребляли абсолютно одинаковый контент. Но у этой инициативы есть и совершенно эгоистичные цели: платформам жизненно необходимо физически отделить контент, созданный живыми людьми, от материалов, сгенерированных нейросетями».

Давайте детальнее копнем в проблему

Читать полностью »

История о том, как я устал от галлюцинаций ИИ и собрал инструкцию для нейронки

2026-02-24 в 11:16, admin, рубрики: ai agent, llm, prompt engineering, галлюцинации ИИ, ИИ, инструкция для ИИ, нейросети, промпты, системный промпт, эпистемическая честность

Личный опыт, 14 версий и эволюция от «просто не ври» до адаптивного Deep Compute Engine

Вступление: Всё началось с боли

Делал свой проект с помощью нейросети. Всё шло хорошо, пока не начались они. Галлюцинации.

Сначала это было смешно: «Сэр, функция asyncio.gather() принимает 5 аргументов» (принимает *coros). Потом перестало: код не работает, время уходит, итерация за итерацией я объясняю агенту, что он только что выдумал параметр.

В какой-то момент я понял: проблема не в модели. Проблема в том, как я с ней разговариваю.

Так родилась INSTRUCTION_GENTLEMANЧитать полностью »

Как ИИ меняет работу системного аналитика: большой обзор на возможности моделей, советы для новичков и немного прогнозов

2026-01-08 в 15:37, admin, рубрики: вайб-кодинг, галлюцинации ИИ, документация как код, ИИ для разработки, инструменты аналитики, нейросети для аналитиков, промпты, системный анализ, системный аналитик, техническое собеседование

Заходишь на Хабр.Карьеру, открываешь вакансии системных аналитиков, а в требованиях всё как обычно: построение информационных систем, понимание архитектуры, ТЗ, BPMN, базовый SQL. Нигде ни слова о знании GPT или умении промптить. Формально профессия как будто не изменилась.

Тем временем в свежем отчёте OpenAI о корпоративном применении ИИ опубликовали статистику: использование ChatGPT в корпоративной среде за год выросло в 8 раз, а объём запросов от одного человека — в среднем на 30%.

Читать полностью »

Галлюцинации ИИ — это не баг, а фича разработчика. Почему вайб-кодинг не заменит программистов

2025-12-08 в 7:05, admin, рубрики: IT-образование, llm-модели, вайб-кодинг, вайб-программирование, галлюцинации ИИ, конвейер, Программирование, программирование для начинающих, экономика, языковые модели

Привет!

Знаете, что общего у ChatGPT, моего студенческого кода в три часа ночи и выступлений некоторых экспертов? Все они периодически галлюцинируют. Разница только в том, что от ИИ мы почему-то ждём идеальной точности, а от людей — нет.

Недавно провели стрим, где собрались специалисты, у которых ИИ не в презентациях, а в production: Сергей Спиренков (KODE), Александр Константинов (Cloud.ru), Михаил Ларкин (Сбер, ВТБ, S7), Иван Будник (ИИ-стартапы, e-commerce) и Константин Чуйков (Vibe Coding Community). Провели разговор про галлюцинации моделей и про будущее разработки с ИИ.

Читать полностью »

псИИхоз: когда чат-боты доводят людей до грани

2025-09-29 в 11:17, admin, рубрики: AI, chatgpt, llm-модели, будущее здесь, галлюцинации ИИ, ИИ, ии-психоз, искусственный интеллект, мозг, Чат-боты

Пролог: «Мы ещё увидимся — в этом мире или следующем»

Август, Коннектикут. 56-летний Эрик Стейн Сюэлберг убивает свою 83-летнюю мать, а затем и себя. Из соцсетей выясняется: последние месяцы он часами говорил с чат-ботом, которого называл «Бобби». В одной из переписок звучит фраза:

«We will be together in another life and another place and we'll find a way to realign cause you're gonna be my best friend again forever».

Читать полностью »

Когнитивные искажения «цифровых сотрудников» и как их починить

2025-09-10 в 11:31, admin, рубрики: галлюцинации ИИ, когнитивные искажения, могз, ошибки ai, ошибки мышления, ошибки нейронок, промпт-инжиниринг

Привет! В очередной раз с вами Катя Косова, аналитик из Cloud.ru и у меня есть guilty pleasure: циферки и когнитивные науки. Поскольку выйти в интернет и не наткнуться на новости про AI ~~(и про то, что он скоро отнимет у всех работу)~~ просто невозможно, а AI-агенты внедряются повсеместно, давайте расскажу, какие когнитивные искажения, по моим наблюдениям, чаще всего встречаются у LLM. Ведь слабые стороны конкурента или потенциального сотрудника надо знать наперед.

Читать полностью »