Иногда, задавая нейронке один вопрос, неожиданно получаешь ответ на какой-нибудь другой, тоже интересный.
Рубрика «bias»
Неудобные запросы для LLM: Как ложь может рассказать об истине?
2026-01-01 в 18:00, admin, рубрики: bias, галлюцинации, искусственный интеллект
Positional Bias: Что это такое и как с ним жить? Учимся правильно предсказывать CTR
2025-03-03 в 11:16, admin, рубрики: bias, CTR, data science, ml, recommendation systems, search engine, system designПривет! Сегодня поговорим про такого зверя, как positional bias. Если вы работаете с поисковыми системами или рекомендательными сервисами, то наверняка сталкивались с этой проблемой. Разберёмся на примере задачи по ml system design — предсказание вероятности клика по товару (известной как CTR — Click-Through Rate) в поисковой выдаче.
Описание задачи.
Вы владелец товарной платформы. На платформе продавцы могут продвигать товары за фиксированную ставку. Ставка взимается только в том случае, если был совершен клик по товару. У вас есть определенное количество свободных слотов для продвижения товаров. Читать полностью »
Обзор уязвимостей для LLM. Часть 1. Атака
2025-01-05 в 13:55, admin, рубрики: bias, gpt-4, refusal training, sota, атаки, дипфейки, подмена номера, промпт-инъекции, промпты, языковые моделиБольшие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты от промпт-инъекций. Поэтому поговорим о том, какие угрозы существуют и почему инвесторы платят большие деньги за создание таких бизнесов. А во второй части статьи расскажу, как от них защищаться.
Ты мог бы стать спортсменом, если бы родился в другой день. Что такое Relative Age Effect?
2023-02-23 в 13:20, admin, рубрики: bias, Relative Age Effect, аналитика, визуализация данных, Инфографика, исследование, конкуренция, Научно-популярное, предвзятость, спорт, справедливость, статистика, Статистика в IT, футболЧто делает перспективного ребенка из местной спортивной секции чемпионом мира по футболу, олимпийским призером или обладателем Кубка Стэнли?
Одни ответят талант. Без таланта далеко не уедешь. К пяти годам Тайгер Вудс появился в главном журнале про гольф и в нескольких телевизионных шоу, а Майкл Фелпс вышел в финал Олимпиады 2000 в пятнадцать ¹. Другие назовут упорный труд. И тоже будут правы.
Но что если есть и другая причинаЧитать полностью »