Рубрика «закон Гудхарта»
Сказ о том, как нейросеть занялась reward hacking прямо у меня на кухне
2026-06-18 в 8:00, admin, рубрики: numpy, python, reward hacking, selectel, закон Гудхарта, кулинария, машинное обучение, оптимизация
Почему бенчмарки в AI сломались — и что с этим делать в понедельник
2026-05-12 в 6:15, admin, рубрики: ai-агенты, llm, агентные системы, Анализ и проектирование систем, бенчмарки, закон Гудхарта, критическое мышление, метрики качества, нейросети, оценка LLMВ январе 2026 года Янн Лекун, уходя из Meta, сказал в интервью Financial Times про релиз Llama 4: «The results were fudged a little bit» (Fast Company, 6 января 2026). Команда показывала на LMArena одну версию модели, в продакшен ушла другая. На бенчмарке всё было правильно. В реальности код был хуже DeepSeek V3.
Я хочу разобрать эту историю. Не потому что Meta — исключение. Потому что они — симптом.
TL;DR.Читать полностью »
13 законов разработки ПО
2025-04-07 в 15:01, admin, рубрики: ruvds_перевод, закон брукса, закон Гудхарта, закон мёрфи, закон паркинсона, закон Старджона
Некоторые из них хорошо известны, другие — достаточно нишевые. Но все они очень полезны разработчикам и менеджерам. Любопытно, какие из них вам известны:
- Закон Паркинсона.
- Закон Хофштадтера.
- Закон Брукса.
- Закон Конвея (и обратный закон Конвея).
- Закон Каннингема.
- Закон Старджона.
- Закон Завински.
- Закон Хайрама.
- Закон Прайса.
- Эффект Рингельмана.
- Закон Гудхарта.
- Закон Гилба.
- Закон Мёрфи.
Поехали.Читать полностью »
Карьера разработчика 2к25: берём вторую работу или помогаем заработать бизнесу?
2025-02-17 в 14:45, admin, рубрики: гостинг, закон Гудхарта, зарплата программиста, карьера ИТ-специалиста, личная продуктивность, матрица эйзенхауэра, мотивация в ИТ, портфолио разработчика, приоритизация задач, саморазвитиеВсем привет! Меня зовут Вероника, я фронтенд‑разработчик направления зарплатных проектов в Альфа‑Банке. До этого 4 года разрабатывала корпоративные веб‑приложения и участвовала в запуске стартапа, где ты человек‑оркестр и выполняешь несколько ролей сразу.
Практика сбора отзывов клиентов — плохое явление
2017-02-20 в 13:55, admin, рубрики: бизнес-модели, закон Гудхарта, Карьера в IT-индустрии, обратная связь от клиентов, отзывы клиентов, отзывы покупателей, оценка качества обслуживания, рейтинги, Управление e-commerce, управление персоналом, Управление продажами
Исследования удовлетворённости клиентов чрезвычайно распространены. Каждый раз, когда вы посещаете банк, отправляете запрос интернет-поставщику, отправляетесь в поездку или нанимаете фрилансера для какой-то задачи, вы затем с железной последовательностью получаете запросы по электронной почте с предложением оценить взаимодействие.
На первый взгляд, это хорошая идея. Учитывая практическую вездесущность интернета и электронной почты в сочетании с низкой стоимостью отправки этих писем, возможность понять суть дела «изнутри», которую ваша фирма может получить от клиентов, — что может не нравиться в этой практике?
Обратная связь «магазин/наём -> оценка -> вознаграждение» стала просто неотъемлемой частью некоторых систем. Многие интерактивные торговые площадки включают эти операции обратной связи в рейтинги, которые затем становятся оценкой, влияющей на перспективы оцениваемой персоны.
И вот здесь-то и начинаются проблемы.
Имеется точка, где этот подход перестаёт быть полезным и прямые эффекты системы оценки, основанной на результатах обратной связи, становятся контрпродуктивными. Такой точкой является ситуация, когда рейтинг становится целью.
Читать полностью »