BTG Pactual

Data Engineer

São Paulo, SP
GCP AWS Databricks Spark PySpark Airflow dbt Python SQL Git Terraform BigQuery Cloud Storage Dataflow Pub/Sub S3 Glue Athena Redshift EMR
Description

Engenheiro(a) de Dados | Dados

Location: São Paulo, São Paulo, Brazil

Department: TECHNOLOGY BRAZIL - 8453

Sobre a vaga:

Estamos em busca de um(a) Engenheiro(a) de Dados com sólida experiência em ambientes de nuvem (GCP e AWS), proficiência em plataformas similares ao Databricks e forte capacidade técnica para estruturar e operar Data Lakes. O(a) profissional será responsável por desenhar, implementar e manter pipelines de dados robustas e escaláveis, garantindo a ingestão, processamento e disponibilização de dados em diferentes camadas (Raw, Refined, Curated).

Responsabilidades:

  • Projetar e implementar a arquitetura de um Data Lake em múltiplas camadas (Raw/Staging, Trusted/Refined e Curated/Business Layer).
  • Desenvolver, orquestrar e monitorar pipelines de dados usando ferramentas como Apache Spark, PySpark, Airflow, dbt ou equivalentes.
  • Trabalhar com GCP (BigQuery, Cloud Storage, Dataflow, Pub/Sub) e AWS (S3, Glue, Athena, Redshift, EMR) para construção de soluções escaláveis e seguras.
  • Criar processos eficientes de ingestão de dados em batch e streaming, integrando múltiplas fontes.
  • Colaborar com cientistas de dados, analistas e engenheiros de software para disponibilizar dados com qualidade e governança.
  • Garantir o versionamento, segurança e catalogação dos dados.
  • Atuar na otimização de performance, controle de custos e boas práticas em ambientes cloud.

Requisitos obrigatórios:

  • Experiência comprovada com Google Cloud Platform (GCP) e Amazon Web Services (AWS).
  • Vivência em ambientes semelhantes ao Databricks.
  • Experiência na construção de Data Lakes com no mínimo 3 camadas.
  • Domínio em Python, SQL e frameworks como Spark / PySpark.
  • Conhecimento em DataOps e CI/CD para pipelines de dados.
  • Experiência com ferramentas de orquestração de pipelines (Airflow, dbt, Step Functions, etc.).
  • Familiaridade com ferramentas de versionamento de código (Git, GitHub/GitLab).
  • Boas práticas de governança, qualidade e segurança de dados.


Desejável:

  • Certificações em GCP e/ou AWS.
  • Conhecimento em Data Mesh e arquiteturas orientadas a domínio.
  • Experiência com lakehouse architectures.
  • Experiência em infraestrutura como código (IaC), como Terraform.


Soft Skills:

  • Visão sistêmica e foco em performance e escalabilidade.
  • Boa comunicação com áreas técnicas e de negócio.
  • Proatividade e espírito colaborativo.
  • Capacidade de atuar em ambientes ágeis e com múltiplas prioridades.
BTG Pactual
BTG Pactual

0 applies

0 views

There are more than 50,000 engineering jobs:

Subscribe to membership and unlock all jobs

Engineering Jobs

60,000+ jobs from 4,500+ well-funded companies

Updated Daily

New jobs are added every day as companies post them

Refined Search

Use filters like skill, location, etc to narrow results

Become a member

🥳🥳🥳 452 happy customers and counting...

Overall, over 80% of customers chose to renew their subscriptions after the initial sign-up.

To try it out

For active job seekers

For those who are passive looking

Cancel anytime

Frequently Asked Questions

  • We prioritize job seekers as our customers, unlike bigger job sites, by charging a small fee to provide them with curated access to the best companies and up-to-date jobs. This focus allows us to deliver a more personalized and effective job search experience.
  • We've got over 200,000 jobs from 15,000+ vetted companies. No fake or sleazy jobs here!
  • We aggregate jobs from 15,000+ companies' career pages, so you can be sure that you're getting the most up-to-date and relevant jobs.
  • We're the only job board *for* software engineers, *by* software engineers… in case you needed a reminder! We add thousands of new jobs daily and offer powerful search filters just for you. 🛠️
  • Every single hour! We add 2,000-3,000 new jobs daily, so you'll always have fresh opportunities. 🚀
  • Typically, job searches take 3-6 months. EchoJobs helps you spend more time applying and less time hunting. 🎯
  • Check daily! We're always updating with new jobs. Set up job alerts for even quicker access. 📅

What Fellow Engineers Say