Analista de Dados II - SP

O que buscamos: Buscamos um(a) profissional de Engenharia de Dados L3 com experiência em coleta, processamento, transformação e gerenciamento de grandes volumes de dados, utilizando ferramentas de ETL, Python/PySpark e serviços de Cloud AWS. O profissional será responsável pela manutenção de pipelines de dados, garantia da segurança e qualidade das informações, criação de métricas e estruturação de dados para consumo analítico e de negócio. A posição terá forte atuação na modernização da plataforma de dados, com foco em arquitetura Lakehouse utilizando Apache Iceberg, modelagem dimensional, governança, observabilidade e preparação de dados para consumo analítico e aplicações de Inteligência Artificial. Responsabilidades: Organizar, coletar e processar grandes volumes de dados utilizando ferramentas de ETL. Traduzir os objetivos de negócio do cliente em estratégias de gerenciamento de informações e inteligência de negócios. Desenvolver e manter pipelines de dados, garantindo a segurança no acesso às informações. Criar e disponibilizar métricas e painéis sobre os dados obtidos, assegurando a qualidade e a integridade das informações. Atuar na modernização da plataforma de dados, com foco em arquitetura Lakehouse, governança, qualidade e preparação dos dados para consumo analítico e de IA. Estruturar modelos dimensionais para consumo por times de negócio, dashboards e relatórios. Atuar em todo o ciclo de vida dos dados, incluindo ingestão, processamento, armazenamento, transformação, consumo e governança. Desenvolver e otimizar pipelines utilizando Python, PySpark e serviços da AWS. Trabalhar com Apache Iceberg, contribuindo para o gerenciamento de tabelas analíticas, versionamento, evolução de schema, particionamento e otimização de performance. Utilizar mecanismos de consulta para grandes volumes de dados, como Athena, Trino, Presto ou Spark SQL, trabalhando com formatos colunares como Parquet e ORC. Implementar testes unitários e de performance, além de boas práticas de segurança, controle de acesso e monitoramento em nuvem. Contribuir para a qualidade, rastreabilidade, integridade e eficiência dos processos de dados. Requisitos e Qualificações Experiência com coleta, transformação e carga de dados utilizando ferramentas de ETL. Experiência com Python e PySpark. Experiência com serviços AWS, incluindo Glue, EMR, Athena, SNS, Lambda, Step Functions, S3, Lake Formation, IAM e CloudWatch. Conhecimento em bancos de dados NoSQL, como MongoDB e DynamoDB, e tecnologias relacionadas a Hadoop. Experiência com arquitetura Lakehouse e Apache Iceberg, incluindo gerenciamento de tabelas analíticas, versionamento, evolução de schema, particionamento e otimização de performance. Experiência com query engines para grandes volumes de dados, como Athena, Trino, Presto ou Spark SQL. Conhecimento em formatos colunares, como Parquet e ORC. Experiência com modelagem dimensional, incluindo fatos, dimensões, granularidade, chaves, hierarquias, métricas e indicadores. Experiência no processamento de dados estruturados, semiestruturados e não estruturados. Conhecimento na execução de testes unitários e testes de performance. Experiência com boas práticas de segurança, controle de acesso e monitoramento em ambientes Cloud. Diferenciais Certificações AWS Practitioner e AWS Data Engineer. Experiência com Data Quality e Data Observability, incluindo validações de completude, consistência, unicidade, integridade e acurácia, monitoramento contínuo e detecção de anomalias. Conhecimento em infraestrutura como código, como Terraform, e ferramentas de monitoramento, como CloudWatch. Conhecimento em Data Mesh, incluindo dados como produto, ownership por domínio, governança federada, infraestrutura self-service, contratos de dados e catálogo. Conhecimento em Inteligência Artificial aplicada a dados, incluindo feature stores, integração de pipelines com modelos de IA e preparação de dados limpos e rastreáveis para utilização em modelos. Descrição comportamental: Procuramos uma pessoa que: Goste de trabalhar em equipe e seja colaborativa em suas atribuições. Tenha coragem para se desafiar e ir além, abraçando novas oportunidades de crescimento. Transforme ideias em soluções criativas e busque qualidade em toda sua rotina. Tenha habilidades de resolução de problemas. Possua habilidade e se sinta confortável para trabalhar de forma independente e gerenciar o próprio tempo. Tenha interesse em lidar com situações adversas e inovadoras no âmbito tecnológico. Big enough to deliver – small enough to care. #VempraGFT #VamosVoarJuntos #ProudToBeGFT.

Formação Acadêmica:

Não informado

Salário:

A combinar

Cargo:

Analista administrativo

Empresa:

Gft Brasil

Serviços de TI.

Ramo:

Informática/ Tecnologia