Ми живемо в епоху кількісних показників. Конверсія, BLEU-score, F1, NPS, MAU — цифри нібито дають об'єктивну картину реальності. Але що якщо сама природа метрик робить їх структурно ненадійними? Не через помилки розробників, а через фундаментальну слабкість будь-якої системи вимірювання.
Саме це питання ставить нова книга про кількісне оцінювання, яку розглядає MIT Tech Review. Дослідники проаналізували, як метрики дають збій у медицині, освіті, бізнесі та технологіях — і дійшли невтішного висновку: слабкість метрик невідворотна. Для AI-білдерів, чиї системи оцінюються за benchmark-показниками, це не абстрактна філософія — це виклик на щоденній основі.
Чому метрики обманюють навіть коли вони точні
Суть проблеми не в тому, що хтось рахує неправильно. Метрика може бути математично бездоганною — і водночас катастрофічно вводити в оману. Причина проста: будь-яка метрика вимірює проксі реального явища, а не саме явище.
Класичний приклад — закон Гудхарта: «Коли показник стає ціллю, він перестає бути хорошим показником». Це спостерігали скрізь. Лікарні оптимізували виписку пацієнтів, щоб покращити показник «тривалість перебування» — і відправляли людей додому раніше, ніж треба. Школи натаскували учнів на тести заради рейтингів — і руйнували глибоке розуміння матеріалу. Компанії максимізували DAU — і заповнювали продукт нотифікаціями, які дратують користувачів.
Друга слабкість: метрики вимірюють те, що легко виміряти, а не те, що важливо. «Задоволеність користувача» складно квантифікувати — тому її замінюють кількістю кліків. «Якість коду» суб'єктивна — тому рахують покриття тестами. У результаті команда оптимізує проксі замість справжньої цілі.
У світі AI проблема набуває критичних масштабів
Для AI-розробників усе вищенаведене посилюється в рази. Бенчмарки — MMLU, HumanEval, SWE-bench — стали де-факто стандартом порівняння моделей. Але вони страждають від тих самих вад:
- Витік у тренувальні дані. Моделі тренуються на даних, що містять або самі бенчмарки, або схожі задачі. Результат — висока оцінка без реального узагальнення.
- Вузький зріз здібностей. Висока точність на MMLU не гарантує, що модель добре впорається з нечіткими реальними запитами користувачів.
- Gamification тестових наборів. Компанії оптимізують випуски під конкретні тести — і benchmark-індустрія вже нагадує гонку озброєнь.
- Метрики безпеки як ілюзія. «Відсоток відмов на шкідливі запити» не відображає справжньої стійкості до adversarial атак у реальних умовах.
Аналогічна картина в MLOps: precision/recall виглядають переконливо, але якщо розподіл даних у продакшні відрізняється від тренувального — реальна поведінка моделі може кардинально розходитись із цифрами в Jupyter-ноутбуці.
Практичні кроки для AI-команд
Що з цим робити щодня? Ось підходи, які відокремлюють зрілі AI-команди від тих, що потрапляють у метрикові пастки:
- Завжди питати: «Що ця метрика НЕ вимірює?» Перед ухваленням рішення на основі числа — зрозумій, що залишилось поза кадром.
- Поєднувати кілька метрик замість однієї. Єдиний KPI легко оптимізувати в збиток решті. Портфель показників складніше «обдурити».
- Доповнювати кількісне якісним. User interviews, shadow testing, A/B-тести з реальними користувачами вловлюють те, що числа пропускають.
- Відстежувати дрейф метрик у часі. Показник, що залишається стабільним при зміні середовища — підозрілий сигнал, а не добрий знак.
- Розділяти метрики для внутрішньої оптимізації та зовнішнього звітування. Те, що показуєш інвесторам, не повинно бути тим самим числом, яке драйвить технічні рішення.
Окремо — оцінка LLM-продуктів. Метрики типу «час відповіді» або «кількість токенів» є технічними. Але реальна якість чат-бота або AI-агента визначається тим, наскільки часто користувач повертається і чи вирішила система його проблему. Ці речі складно виміряти автоматично — і саме тому їх часто ігнорують.
Висновок AiiN
Метрики — необхідний інструмент. Без них неможливо масштабувати рішення, порівнювати підходи або доводити результат стейкголдерам. Але метрики — це карта, а не місцевість. Карта може бути точною і водночас неповною: вона показує дороги, але не якість асфальту після дощу.
Найбільша помилка AI-команд — довіряти метриці більше, ніж здоровому глузду. Число на дашборді заспокоює. Але саме ця заспокоєність і є найбільшою небезпекою. Коли ти знаєш, що метрика має обмеження — ти вже захищений. Коли щиро вважаєш її абсолютною істиною — ти вразливий.
Дослідницька традиція, яка стоїть за цим аналізом, нагадує нам: питати «чому саме ця метрика?» так само важливо, як і вміти її правильно рахувати.
