Пролог: «Мы ещё увидимся — в этом мире или следующем»
Август, Коннектикут. 56-летний Эрик Стейн Сюэлберг убивает свою 83-летнюю мать, а затем и себя. Из соцсетей выясняется: последние месяцы он часами говорил с чат-ботом, которого называл «Бобби». В одной из переписок звучит фраза:
«We will be together in another life and another place and we'll find a way to realign cause you're gonna be my best friend again forever».
Привет! В очередной раз с вами Катя Косова, аналитик из Cloud.ru и у меня есть guilty pleasure: циферки и когнитивные науки. Поскольку выйти в интернет и не наткнуться на новости про AI (и про то, что он скоро отнимет у всех работу) просто невозможно, а AI-агенты внедряются повсеместно, давайте расскажу, какие когнитивные искажения, по моим наблюдениям, чаще всего встречаются у LLM. Ведь слабые стороны конкурента или потенциального сотрудника надо знать наперед.
Я джун. И я давно подсел на ИИ: он помогает мне с кодом, пишет письма, даже шутит (иногда слишком по-дружески с багами). По данным McKinsey, больше 75% компанийЧитать полностью »
Я джун. И я давно подсел на ИИ: он помогает мне с кодом, пишет письма, даже шутит (иногда слишком по-дружески с багами). По данным McKinsey, больше Читать полностью »
Я джун. И я давно подсел на ИИ: он помогает мне с кодом, пишет письма, даже шутит (иногда слишком по-дружески с багами). По данным McKinsey, больше 75% компанийЧитать полностью »
«Аномальные», «глючные» и «непроизносимые» токены в больших языковых моделях (LLM) — это те, которые вызывают странное поведение или не функционируют как обычный текст. Явление было впервые открыто и задокументировано Читать полностью »
В данной статье будет представлен укороченный и упрощенный перевод статьи “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”. А именно перевод части, относящейся к причинам возникновения галлюцинаций. Упрощение состоит в том, что были опущены части, уходящие в конкретику. В этом переводе мы сосредоточимся на основных причинах возникновения галлюцинаций и примерах.
