Представьте себе биологический вид, который не отрастил собственную префронтальную кору из-за недостатка доступных ресурсов и начал арендовать разумность у более крупного и агрессивного хищника. На короткой дистанции это триумф: нулевой расход калорий на поддержание нейронных связей, блестящее решение рутинных задач и почти бесплатное доминирование в своей экологической нише. Зачем тратить ресурсы на развитие собственного мозга, если можно просто отправлять запросы в чужой? Минус в том, что однажды хищник проголодается, и тогда он вас съест.
Рубрика «sota»
Конец арендованного интеллекта
2026-07-01 в 9:30, admin, рубрики: sota, ИИ-стратегия, импортозамещение, искусственный интеллект, налогообложение ИИ, открытые модели, регулирование ии, ФСТЭК, цифровой суверенитет, экспортный контрольКартель влиятельных датасетов в обучении ИИ
2025-03-25 в 9:01, admin, рубрики: llm, OpenAI, ruvds_статьи, sota, YouTube, датасеты, ИИ, наборы данных, обучение ИИ, переобучение, языковая модель
В последнее время такие компании, как OpenAI и Google, заключают эксклюзивные соглашения об обмене данными с издателями, крупными форумами вроде Reddit и социальными медиаплатформами, что становится для них ещё одним способом сконцентрировать власть.
Такая тенденция выгодна крупнейшим игрокам на рынке ИИ, которые могут позволить себе такие сделки, в отличие от исследователей, некоммерческих организаций и небольших компаний. Крупнейшие корпорации располагают лучшими ресурсами для сбора датасетов. В результате эталонные датасеты для бенчмарков (и для обучения) моделей ИИ всё больше концентрируются в руках малого количества корпораций и академических учреждений.
По мнению некоторых исследователей, это «новая волна асимметричного доступа», которой ещё не было в истории открытого интернета в таком масштабе.Читать полностью »
Обзор уязвимостей для LLM. Часть 1. Атака
2025-01-05 в 13:55, admin, рубрики: bias, gpt-4, refusal training, sota, атаки, дипфейки, подмена номера, промпт-инъекции, промпты, языковые моделиБольшие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты от промпт-инъекций. Поэтому поговорим о том, какие угрозы существуют и почему инвесторы платят большие деньги за создание таких бизнесов. А во второй части статьи расскажу, как от них защищаться.