Качество данных: как проверить цифры до решения

Три системы могут показывать три разные правильные цифры. Разбираем полноту, точность, свежесть, дубли и контрольные суммы.

Павел сверяет одну метрику из нескольких источников
СУТЬ БЕЗ ШУМА

Самое главное — за секунды

Содержание статьи

В рекламе 312 заявок. В CRM — 276. В таблице маркетолога — 289.

Какая цифра правильная?

Может быть, все три. Реклама считает отправки форм. CRM — созданные сделки. Из таблицы убрали спам, но оставили дубли.

Качество данных — это не когда все цифры совпали. А когда мы понимаем, что каждая означает, откуда взялась и можно ли на неё опираться.

Если нужно понять, как проверить корректность отчётов, начните с качества данных в аналитике. Ошибки в бизнес-данных чаще всего находятся на стыке источников и правил.

Как проверить качество данных

Павел балансирует на шатком табурете с пятью опорами качества данных

Полнота

Все ли нужные записи и поля попали в отчёт? Если у 40% сделок нет источника, таблица по каналам уже отвечает не на весь вопрос.

Точность

Совпадает ли значение с реальностью? Сумма оплаты должна сверяться с банком или кассой, а не только со статусом «успешно».

Своевременность

Когда данные обновились? Дашборд с цифрами за позавчера может быть идеально точным. Но для сегодняшнего решения он всё равно устарел.

Единообразие

Все ли одинаково записано? «Москва», «мск» и «Moscow» для человека — один город. Для отчёта пока три.

Уникальность

Не попала ли одна заявка в отчёт дважды? Форма и звонок от одного клиента могут создать две сделки. Без правила склейки часть маркетинга будет старательно показывать одного человека два раза.

Как проверять отчёт, а не спорить о нём

Павел проверяет отчёт-пациент по количеству строк, пропускам, дублям и времени обновления

Нам нужны контрольные суммы. Например, общая выручка в аналитике должна совпадать с банком и кассой по согласованному правилу.

Рядом я вывожу технические показатели:

  • сколько строк загружено;
  • сколько записей без ключевых полей;
  • сколько дублей найдено;
  • когда каждый источник обновился.

Тогда отчёт сам показывает, насколько ему можно доверять. Очень удобная привычка.

Что такое качество данных

Качественные данные подходят для конкретного решения и позволяют повторить расчёт. Это не означает, что база идеальна. Важно знать точность, полноту, свежесть и границы использования.

Одна и та же таблица может быть достаточной для недельного обзора и непригодной для выплаты премии. Требование зависит от цены ошибки.

Шесть проверок

  • Полнота: обязательные поля заполнены.
  • Уникальность: нет лишних дублей.
  • Корректность: значение соответствует правилу и диапазону.
  • Согласованность: одинаковые сущности связаны между системами.
  • Свежесть: данные обновились вовремя.
  • Проверяемость: итог можно раскрыть до источника.

Простые показатели качества

Полнота = записи с заполненным обязательным полем ÷ все записи × 100%.

Доля дублей = лишние повторные записи ÷ все записи × 100%.

Доля связей = записи, соединённые между системами ÷ записи, которые должны соединиться × 100%.

Процент всегда дополняйте абсолютным числом. 1% ошибок в миллионе заказов — это 10 000 случаев, а не маленькая косметика.

Подробный пример

Условно в CRM за месяц 10 000 заявок. У 8 800 заполнен источник, 300 оказались дублями, 7 500 удалось связать с клиентом, а 6 900 — с оплатами.

Полнота источника: 8 800 ÷ 10 000 × 100% = 88%. Доля дублей: 300 ÷ 10 000 × 100% = 3%. Связь с оплатами: 6 900 ÷ 9 700 × 100% ≈ 71% после исключения дублей.

Отчёт по прибыли каналов покрывает около 71% очищенных заявок. Это можно использовать для предварительного анализа, но нельзя молча распределять оставшиеся 29% между каналами. Их показываем отдельной группой и разбираем причины.

Проверяйте критичные поля

Не все ошибки равны. Пустой комментарий может не мешать выручке, а неправильная сумма оплаты меняет финансовое решение. Составьте список критичных полей для каждого отчёта.

Для маркетинга это источник, клиент, расход, заказ и оплата. Для финансов — дата, сумма, статья и контрагент. Для склада — товар, движение, количество и себестоимость.

Контрольные сверки

  1. Сравните число записей с источником.
  2. Сверьте сумму за контрольный период.
  3. Проведите несколько операций от отчёта до документа.
  4. Проверьте дубли и пропуски ключей.
  5. Сравните сегодняшний объём с обычным диапазоном.
  6. Зафиксируйте расхождение и допустимый порог.

Как настроить мониторинг

После каждой загрузки проверяйте объём, сумму, свежесть и ключевые связи. При нарушении отчёт должен показать предупреждение и сохранить последние хорошие данные, а не заменить их нулями.

Условно CRM обычно присылает 8–12 тысяч записей в день. Сегодня пришло 900. Система останавливает обновление витрины и сообщает владельцу. Это лучше, чем бодро показать падение заявок на 90%.

Кто исправляет

Владелец процесса отвечает за смысл и заполнение, технический владелец — за загрузку и контроль, аналитик — за правило расчёта. Ошибка должна попадать тому, кто может её устранить.

Я веду короткий журнал: проблема, затронутый период, влияние, ответственный и дата исправления. После исправления пересчитываем данные и повторяем контрольную сверку.

Ограничения и типичные ошибки

  • лечить ошибки только в итоговом Excel, не исправляя источник;
  • считать пустое значение нулём;
  • удалять дубли без правила выбора основной записи;
  • скрывать несвязанные данные;
  • ставить одинаковый порог всем полям;
  • проверять отчёт только после жалобы руководителя.

Практический подход Павла: сначала выбираем решение и пять критичных полей, затем считаем качество и исправляем самый дорогой разрыв. Следующее действие — возьмите один отчёт, сверьте итог и десять операций с источником и запишите долю непокрытых данных.

Договоритесь о данных до интеграции

Для каждого важного набора запишите владельца, поле-ключ, обязательные значения, допустимую задержку и реакцию на ошибку. Такой договор называют data contract, но по сути это обычная договорённость: что приходит, когда и кто отвечает.

Например, CRM передаёт уникальный идентификатор сделки, дату создания, сумму и статус до 8:00. Если идентификатор пустой или объём упал более чем на согласованный порог, витрина не публикует новый результат и сообщает владельцу.

Исправляйте по цене ошибки

Не нужно одновременно чистить всё хранилище. Оцените, какое решение затрагивает ошибка, сколько записей повреждено и можно ли восстановить данные.

Условно 5% лидов без города мешают региональному отчёту, но 0,5% оплат без суммы ломают прибыль. Второй процент меньше, а приоритет выше. Качество измеряется не красотой таблицы, а риском решения.

Что делать при инциденте

  1. Остановить распространение неверного результата.
  2. Показать пользователям период и затронутые показатели.
  3. Найти первый неверный шаг цепочки.
  4. Исправить источник или правило, а не только итог.
  5. Пересчитать период и повторить контроль.
  6. Добавить проверку, которая поймает повтор.

Не удаляйте историю инцидента. Она помогает увидеть повторяющиеся слабые места и честно объяснить изменение прошлых цифр.

Ручная проверка тоже полезна

Автоматический тест хорошо ловит известные ошибки. Человек замечает странный смысл: отрицательный возраст клиента, тысячу заказов у одного покупателя или выручку без товара.

Поэтому после обновления я оставляю короткую выборочную проверку: несколько крупных операций, несколько обычных и несколько пограничных. Со временем повторяющиеся проверки автоматизируются.

Где исправлять ошибку

Лучший вариант — в системе, где значение родилось. Если менеджер выбрал неверный источник, исправление должно вернуться в CRM. Правка только в витрине создаст две версии данных.

Иногда источник изменить нельзя. Тогда правило преобразования хранится отдельно, документируется и тестируется. Нельзя прятать ручную замену внутри формулы, которую знает один аналитик.

Как поставить пороги

Для критичного поля оплаты допустимый порог может быть нулевым. Для необязательного комментария — заметно выше. Посмотрите историю и цену ошибки.

Условно доля несвязанных оплат обычно 1–2%. При 3% система предупреждает, при 5% останавливает публикацию финансового отчёта. Порог должен вести к заранее известному действию.

Короткая карта качества

Для собственника достаточно пяти строк: показатель, текущее качество, порог, влияние и ответственный. Например: связь оплат 94% при цели 98%, затронут ROMI, владелец — аналитика.

Не превращайте карту в отчёт на сто проверок. Технические детали остаются у команды, наверх выходят только риски для решений.

Раз в месяц пересматривайте пороги и закрытые инциденты. Если проверка постоянно срабатывает без влияния, её правило нужно уточнить.

Как мы наводим порядок

Я начинаю не с масштабной чистки всего. Сначала выбираем одно решение: например, перераспределить рекламный бюджет.

Под него берём нужные поля, сверяем контрольные суммы, фиксируем правила. И только потом переходим к следующему блоку.

После запуска мы передаём команде не просто дашборд, а карту: откуда приходит каждая цифра, как считается и чем проверяется.

Если каждое совещание начинается со спора о цифрах, мы можем проверить цепочку данных и собрать одну доверенную версию. Напишите мне ниже.

Источники

ПО ТЕМЕ

Продолжить разбираться

Похожие материалы, которые развивают тему и помогают посмотреть на задачу с другой стороны.

Можно просто написать

Познакомимся и обсудим задачу

Расскажите, что хотите улучшить или в чём пока не можете разобраться. Необязательно приходить с готовым ТЗ — вместе посмотрим на ситуацию и поймём, с чего начать.

Работаем без заявки.

Не оставляйте номер и не ждите звонка. Просто напишите сами туда, где вам удобно.