Do zero a vaga de Nubank AI Security Engineer

O que preciso aprender e o que já sei - https://job-boards.greenhouse.io/nubank/jobs/6848141?gh_src=3c8e02de1

1. Fundamentos de Segurança da Informação

• Dominar frameworks de segurança: OWASP Top 10 (tradicional e voltado para LLMs/ML), MITRE ATT&CK, NIST, ISO 27001. ✅

• Conhecimento prático em pentest: Técnicas de invasão, fuzzing, análise de payloads. ✅

• Adversarial testing: Estudo de ataques adversários contra modelos de machine learning (ex: evasion, poisoning, model inversion, membership inference). 🕓

---

2. Segurança em IA e Machine Learning

• Aprender sobre vulnerabilidades específicas de IA:

  • Ataques contra modelos (e.g., prompt injection, jailbreaks em LLMs). 🕓

  • Segurança em pipelines de ML (MLOps seguros). 🕓

  • Avaliação de modelos quanto à robustez e fairness. 🕓

• Estudar conceitos de Explainable AI (XAI) para interpretar decisões de modelos e detectar vieses. 🕓

• Familiarizar-se com ferramentas/frameworks: Adversarial Robustness Toolbox (ART), CleverHans, TextAttack, SecML. 🕓

---

3. Programação e Ferramentas Técnicas

• Python: Essencial para trabalhar com modelos de ML, automações e ferramentas de segurança. ✅

• Frameworks de IA: PyTorch, TensorFlow, scikit-learn. 🕓

• Automação: Aprender Bash e, idealmente, algo como Go ou Ansible. ✅

• Ferramentas de DevSecOps e Infraestrutura como Código: Terraform, Docker, Kubernetes. ✅

---

4. Cloud e Infraestrutura

• Conhecimento em ambientes de nuvem (AWS):

  • Segurança em cloud (IAM, VPC, S3, KMS, etc). 🕓

  • Arquitetura de pipelines de IA na nuvem. 🕓

• Segurança em containers e orquestração: Docker, Kubernetes security best practices. 🕓

---

5. Habilidades Complementares

• Inglês avançado: Para leitura de papers, colaboração com equipes globais e comunicação técnica. ✅

• Comunicação eficaz: Para traduzir conceitos técnicos em insights para diferentes áreas da empresa. ✅

• Mentalidade proativa: Pesquisa contínua, contribuição com R&D e postura investigativa. ✅

---

Plano de Ação Sugerido

1. Cursos:

   • MIT - Adversarial Machine Learning (CSAIL)

   • OWASP Top 10 for LLM

   • Coursera - Secure and Private AI

2. Prática:

   • Construa projetos simples com TensorFlow/PyTorch.

   • Faça CTFs voltados a segurança em IA (ex: AI Village challenges da DEF CON).

   • Simule ataques adversários usando a Adversarial Robustness Toolbox.

3. Leitura contínua:

   • Acompanhe arXiv.org, blogs da OpenAI, Anthropic, DeepMind.

   • Estude vulnerabilidades reportadas em modelos LLM (casos reais como jailbreaks no ChatGPT).