Portal de Vinculos
Disponibilizar os dados para o desenvolvimento de declaração de vínculos no databricks, consiste na extração de 6 tabelas criptografadas sendo necessario realizar a descriptografia e a ingestão dos dados no databricks, para que as áreas de negocio possa utilizar e criar visões e documentações para apresentar aos gestores.
Recursos Necessários .
Os recursos utilizados devem ser mencionados para apoio no entendimento e desenvolvimento. Abaixo segue a lista de todos os insumos utilizados para o estabelecimento deste projeto:
Notebook do Databricks para extração dos dados do SqlDB.
Jira: este sistema pode ser usado para a consulta do Card DGA - 703 a qual apresenta todas as informações do projeto e o commit dos notebooks do Databricks.
Desenvolvimento da carga de arquivos
Notebook ingestão no Redshift.
Import das blibliotecas utilizada.
Lista de tabelas para ingestão.
Parametros de conexão.
Função para descriptografar os dados.
Leitura e escrita dos dados.
Tabelas inseridas no databricks.
Schema : declaracao_vinculos