Человеческий разум, столь сложный и удивительный, далеко не безупречен. Десятилетия исследований в области когнитивной психологии показали, что наше мышление подвержено систематическим ошибкам, известным как когнитивные искажения. Например, Канеман и Тверски открыли глаза на то, как часто мы подвергаемся влиянию искажений, даже когда абсолютно уверены в рациональности принятого решения. Мы склонны видеть мир не таким, какой он есть, а сквозь призму собственных предубеждений и упрощений. Но что, если эти же искажения проявляются и у искусственного интеллекта?
Рубрика «llm» - 133
Насколько ChatGPT-4o подвержен когнитивным искажениям?
2024-08-28 в 14:45, admin, рубрики: chatgpt, llm, ИИ, ИИ и машинное обучение, когнитивные искажения, языковые моделиДействительно ли большие языковые модели галлюцинируют? Эксперимент
2024-08-28 в 11:09, admin, рубрики: GPT-2, llm, большие языковые модели, галлюцинации, искусственный интеллект, машинное обучение, обучениеСуществует мнение, что основная проблема больших языковых моделей — в склонности к галлюцинациям. Когда нейросеть генерирует текст с информацией, не связанной с запросом.
Меня зовут Полина, я инженер по разработке ПО искусственного интеллекта в YADROЧитать полностью »
Разреженные автоэнкодеры и интерпретируемость нейросетей
2024-08-28 в 8:05, admin, рубрики: llm, автоэнкодеры, нейросетиДелаем кроссворд про ML с помощью Монте-Карло и ChatGPT
2024-08-26 в 15:06, admin, рубрики: chatgpt, llm, кроссворд, кроссвордыПривет! Меня зовут Илья и сегодня мы поговорим про кроссворды.
Если когда-то будет противостояние человечества и машин, то последнее что позволит нам, кожаным мешкам, отличить своих собратьев от бездушных киборгов - это искусство составления кроссвордов. GPT ужасно составляет кроссворды.
Эмпатичные аватары: измеряем эмпатию в диалогах людей и воплощенных чат-ботов
2024-08-23 в 15:32, admin, рубрики: character.ai, llm, replika, аватары, внешний вид, графы, диалоги, зловещая долина, Чат-боты, ЭмоцииЕсли в автомобильной пробке голосовой помощник пожалуется, что он эти пробки тоже терпеть не может, то водителю и пассажирам станет легче, что не они одни мучаются. В психологии это называется раппортом и обычно ведет к доверительным отношениям между людьми. Если представить, что чат-боты тоже способны сопереживать, а главное, что люди это ценят, то чем это не сильный эмоциональный ИИ? На примере диалогов между людьми и чат-ботами попробуем разобраться, насколько эмпатичны аватары сегодня и какие фичи им можно еще добавить.
Начало тут.
Как будем изучать диалоговые эмоции в этот разЧитать полностью »
Аутофагия в моделях генеративного ИИ может стать проблемой в скором будущем
2024-08-23 в 13:50, admin, рубрики: llm, аутофагия, ИИ, исследования, нейросетиЧтобы генеративные модели искусственного интеллекта могли создавать новые формы контента, их нужно регулярно обучать на новых данных, которые создает человечество. Но что будет, если контент, созданный человеком, закончится? Тогда модели вынуждены будут обучаться на ранее сгенерированном ИИ-контенте, что может привести к «ИИ-аутофагии». И это явление может стать реальной проблемой для развития LLM.
«Путешествие в Элевсин» или моральный базис LLM
2024-08-23 в 11:51, admin, рубрики: GigaChat, llm, MIT, Moral Machine, Phi3, yagpt, большие языковые модели, моральный выбор, Пелевин, статистика
Все началось с новости об исследовании ответов больших лингвистических моделей при прохождении модифицированной «дилеммы вагонетки» Moral machineЧитать полностью »
Думаю, многие уже успели вдоволь наговориться с большими языковыми моделями, именуемыми в просторечии искусственным интеллектом. Развлекательные настройки, установленные по умолчанию практически во всех ныне доступных простым пользователям "общалках" с ИИ, действительно неплохо развлекают.
Но непростым пользователям, тем кто может связать две строчки кода, хочется чего-то большего. Было бы неплохо превратить милого, но в общем бесполезного болтуна в эффективного деятеля. И это можно сделать, в том числе в среде 1С, и не очень сильно напрягаясь
Теория игр может сделать ИИ более корректным и эффективным
2024-08-21 в 8:35, admin, рубрики: llm, игра в консенсус, искусственный интеллект, теория игр, языковые модели
Исследователи используют идеи теории игр, чтобы улучшить большие языковые модели и сделать их более последовательными.
Гайд по работе языковых моделей для начинающих
2024-08-20 в 15:32, admin, рубрики: BERT, gpt, llm, nlp, nlp (natural language processing), pytorch, TensorFlow, обработка естественного языка, языковая модель, языковые моделиДля того, чтобы распознавать естественную человеческую речь, используют специальные модели — языковые. Они умеют воспринимать содержание текста, продолжать предложения и вести осмысленный диалог.
Вместе с дата-сайентистом и биоинформатиком Марией Дьяковой подготовили подробный гайд о том, как устроены самые популярные языковые модели и что нужно знать, чтобы начать с ними работать.
