Перейти к основному содержимому

Навигация по state-aware интерфейсу

Узнайте, как ориентироваться в интерфейсе state-aware оркестрации, чтобы получить лучшую видимость процессов сборки моделей и отслеживания затрат.

Оркестрация с учетом состояния теперь называется dbt State

dbt State работает со всеми движками и средами: dbt v1, dbt platform и dbt v2

Если вы использовали оркестрацию с учетом состояния до 1 июня 2026 года, вы можете продолжать ее использовать. Когда вы начнете бесплатный пробный период dbt State, он будет продлен сверх стандартных 30 дней. Если продление не применено к вашей учетной записи, обратитесь к команде по работе с вашим аккаунтом. Чтобы начать, ознакомьтесь с разделом Переход с оркестрации с учетом состояния.

Диаграмма созданных и повторно используемых моделей​

Когда вы переходите на Account home, вы увидите диаграмму, показывающую количество собранных и повторно использованных моделей. Она дает наглядное представление о том, как state-aware оркестрация оптимизирует сборки данных. Эта диаграмма помогает:

  • Отслеживать эффективность state-aware оркестрации — Понять, как state-aware оркестрация сокращает ненужные пересборки моделей, выполняя сборку только при наличии изменений в данных или коде. Диаграмма обеспечивает прозрачность того, как оптимизация работает в рамках вашей реализации dbt.
  • Анализировать паттерны сборок — Получить представление о частоте сборок проекта и выявить возможности для дальнейшей оптимизации.

Также вы можете посмотреть количество повторно использованных моделей по каждому проекту на странице Accounts home.

Диаграмма построенных и повторно используемых моделей на главной странице аккаунтаДиаграмма построенных и повторно используемых моделей на главной странице аккаунта
Просмотр количества повторно используемых моделей по проектам на главной странице аккаунтаПросмотр количества повторно используемых моделей по проектам на главной странице аккаунта

Просмотр потребления моделей в jobs​

State-aware jobs предоставляют диаграммы, которые показывают информацию о запусках job, а также сколько моделей было собрано и повторно использовано за последнюю неделю, за последние 14 дней или за последние 30 дней. В разделе Overview вашего job доступны следующие диаграммы:

Во вкладке Runs:

  • Последние запуски
  • Общая длительность выполнения
Диаграммы последних запусков и общей продолжительности выполненияДиаграммы последних запусков и общей продолжительности выполнения

Во вкладке Models:

  • Созданные модели
  • Повторно использованные модели
Диаграммы построенных и повторно использованных моделейДиаграммы построенных и повторно использованных моделей

Просмотр логов собранных моделей​

Во время выполнения job структурированный просмотр логов показывает, какие модели были собраны, пропущены или повторно использованы.

Просмотр логов собранных моделейПросмотр логов собранных моделей
  1. У каждой модели есть иконка, указывающая её статус.
  2. Вкладка Reused показывает общее количество повторно использованных моделей.
  3. Вы можете использовать строку поиска или фильтровать логи, чтобы показать сообщения All, Success, Warning, Failed, Running, Skipped, Reused или Debugged.
  4. Для лучшего понимания того, почему модели были собраны, повторно использованы или пропущены, предоставляются подробные сообщения логов. Эти сообщения подсвечиваются в логах.

Тег Reused в линзе Latest status​

Линзы графа зависимостей — это интерактивные визуальные фильтры в dbt Catalog, которые отображают дополнительный контекст на графе зависимостей и помогают понять, как определены ресурсы или как они работают. При применении линзы на узлах графа зависимостей появляются метки, указывающие значение слоя и окрашенные в соответствующий этому значению цвет. При сильном уменьшении масштаба на графе видны только метки и их цвета.

Линза Latest status показывает статус ресурса на основе его последнего выполнения в текущем окружении. При использовании этой линзы в lineage-графе модели, которые были повторно использованы state-aware оркестрацией, помечаются тегом Reused.

Представление последнего статуса с повторно используемыми моделямиПредставление последнего статуса с повторно используемыми моделями

Чтобы посмотреть lineage с линзой Latest status:

  1. В главном меню перейдите в Orchestration > Runs.
  2. Выберите нужный run.
  3. Перейдите на вкладку Lineage.
    Отобразится lineage вашего проекта.
  4. В поле Lenses выберите Latest status.

Кнопка Clear cache​

State-aware оркестрация использует кэшированный хеш как кода, так и состояния данных для каждой модели в окружении. Этот хеш хранится в Redis. При запуске job dbt проверяет, есть ли изменения в хеше модели между сохранённым состоянием в Redis и текущим состоянием, которое будет построено в рамках job. Если изменения есть, dbt собирает модель. Если изменений нет, dbt повторно использует модель с момента её последней сборки.

  • Чтобы полностью сбросить это состояние и начать заново, очистите кеш, перейдя в Orchestration > Environments. Выберите свою среду и нажмите кнопку Clear cache.

  • Кнопка Clear cache доступна только в том случае, если вы включили оркестрацию с учетом состояния.

  • После очистки кеша следующий запуск заново построит все модели с нуля. Последующие запуски будут использовать заново сформированный кеш.

Кнопка очистки кешаКнопка очистки кеша

Связанная документация​

Нашли ошибку?

0
Loading