Conecte logs de atividade do Workday direto no Databricks
O novo conector do Lakeflow Connect traz logs de atividade do Workday para o Databricks de forma incremental.
O que mudou
Para que serve
Imagine que você precisa auditar o acesso e as ações dos usuários no Workday combinando esses dados com o restante da sua engenharia de dados. Com este conector, você consegue:
- Ingerir logs de atividade de forma incremental.
- Usar o Unity Catalog para governança dos dados.
- Orquestrar a ingestão usando Databricks Workflows.
Como usar
Você pode criar uma pipeline usando notebooks ou Asset Bundles, autenticando via OAuth refresh token.
from databricks.sdk import WorkspaceClient
w = WorkspaceClient()
# Exemplo de criação de pipeline de ingestão
pipeline = w.pipelines.create(
name="pipeline_workday_logs",
storage="/Volumes/meu_catalogo/default/storage_path",
target="meu_catalogo.default",
libraries=[{"notebook": {"path": "/Workspace/Users/admin/workday_notebook"}}]
)
O que acontece nesse código:
- Inicializa o cliente do Databricks Workspace.
- Cria uma nova pipeline apontando para um volume e um catálogo no Unity Catalog.
- Associa um notebook que executa a lógica de ingestão.
Limitações e requisitos
- Estágio: Beta.
- Requer que um administrador habilite o recurso na página de Previews do workspace.
- Autenticação suportada exclusivamente via OAuth refresh token.
- Não suporta SCD Type 2 nem filtragem de linhas via API.
Como aplicar num pipeline
Os dados brutos entram na camada Bronze a partir do conector Workday e podem ser limpos e estruturados na Silver para auditorias de segurança e conformidade.
- lakeflow connect
- workday
- streaming
- unity catalog
- pipelines
Workday Activity Logging connector (Beta)
Resumo e explicação gerados por IA a partir da release note oficial. Em caso de dúvida, a documentação oficial da plataforma prevalece.
Relacionadas
- DatabricksBeta
Conector do SurveyMonkey chega ao Lakeflow Connect no Databricks
O Lakeflow Connect agora conta com conector nativo para o SurveyMonkey em Beta, permitindo ingestão incremental de pesquisas, respostas e contatos com governança no Unity Catalog.
lakeflow connect · surveymonkey - DatabricksBeta
Lakeflow Connect adiciona conector do Oracle Eloqua em Beta
O Lakeflow Connect agora oferece um conector gerenciado em Beta para o Oracle Eloqua, permitindo ingestão incremental de dados de marketing governados pelo Unity Catalog.
lakeflow connect · oracle eloqua - DatabricksBeta
Ingira métricas do GA4 com o novo conector do Lakeflow Connect
O Lakeflow Connect ganha conector gerenciado em Beta para o Google Analytics 4, permitindo ingestão incremental de relatórios agregados via API com governança no Unity Catalog.
lakeflow connect · google analytics