技術部データ基盤チームの@tosh2230です。この記事では、astronomer-cosmosでdbtのモデル実行条件をタグで柔軟に制御する方法についてご紹介します。 記事執筆時点での利用バージョンは下記のとおりです。 astronomer-cosmos: 1.3.2 dbt-bigquery: 1.5.4 Apache Airflow: 2.6.3 Cloud Composer: 2.4.6 結論 astronomer-cosmos Airflowのコンポーネントでdbtモデルを管理 dbt実行環境の作成 dbt testの自動実行 Cosmos運用開始にあたっての課題 モデルごとに適切な実行頻度が異なる 複数のモデルオーナーがいる 解決手段 モデル実行条件の制御 複数のタグをAND条件で指定するにはParsing methodを変更する CI/CDでのmanifest.jsonの生成