DGA-492 Metadata discovery - pipelines do Airflow
Código Repositório: https://dbc-9570c746-ec11.cloud.databricks.com/?o=3606981051492833#notebook/1553702153899962/command/1553702153899964
CARD:
Objetivo: Objetivo: Extrair a lista de pipelines do Airflow e gerar um CSV.
É importante verificar a autenticidade das secrets(scope = 'SVC-AWS-ANALYTICS', key = 'ACCESS_KEY'), elas são responsáveis por dar acesso a conta aws e ao boto3.
EXECUTANDO O CÓDIGO
Após verificar a autenticidade das secrets, o próximo passo é executar o Notebook que irá gerar um dataframe com a estrutura com todos as pipelines.
Nele é possível extrair os dados para um csv e fazer o download.
, multiple selections available,
Related content
DGA-493 Metadata discovery - buckets AWS
DGA-493 Metadata discovery - buckets AWS
More like this
DGA-532 Listagem de todos os buckets S3 das contas do Analytics.
DGA-532 Listagem de todos os buckets S3 das contas do Analytics.
More like this
Dados API Clube Duratex
Dados API Clube Duratex
More like this
Modelo Operacional
Modelo Operacional
More like this