Paisagem de otimização: uma superfície de perda desenhada com pontos de luz e curvas de nível, onde um ponto âmbar desce até o mínimo. Ilustrativa.

Pesquisador em IA · XPTO

Nome Sobrenome

Pesquiso como redes neurais aprendem — e como torná-las mais eficientes, robustas e fáceis de avaliar.

Fale comigo Ver publicações

São Paulo, Brasil · UTC−3

descendo…

Clique no terreno para uma nova descida.Toque no terreno para uma nova descida.

Role para seguir a descida

Sobre

Um pouco da trajetória e do que me move na pesquisa.

Sou pesquisador de inteligência artificial na XPTO, onde estudo como modelos de aprendizado profundo são treinados, comprimidos e avaliados. Gosto de problemas na fronteira entre teoria e prática: entender a geometria da função de perda para projetar otimizadores e protocolos de avaliação que continuem funcionando fora do laboratório.

Antes da XPTO, fiz doutorado em ciência da computação e trabalhei com grupos de pesquisa na universidade e na indústria. Publico em conferências como NeurIPS, ICML e ACL, atuo como revisor nessas comunidades e procuro transformar resultados de pesquisa em ferramentas que outras equipes usem no dia a dia.

Atuação
Pesquisa em aprendizado de máquina na XPTO, desde 2021
Formação
Doutorado em ciência da computação
Idiomas
Português, inglês e espanhol
Publicações
10 artigos, de 2021 a 2026

Currículo (PDF)

Pesquisa

Quatro linhas de trabalho que se complementam: entender como os modelos aprendem ajuda a treiná-los com menos custo e a avaliá-los com mais honestidade.

  • Otimização em aprendizado profundo

    Dinâmica de treino e geometria da função de perda, para criar otimizadores que convergem mais rápido e exigem menos ajuste de hiperparâmetros.

    • otimizadores adaptativos
    • geometria da perda
    • taxas de aprendizado
    • treino em larga escala
    Ver 4 publicações

  • Aprendizado de representações

    Como os modelos organizam o que aprendem: autossupervisão, espaços latentes e transferência entre tarefas e domínios.

    • autossupervisão
    • aprendizado contrastivo
    • espaços latentes
    • transferência
    Ver 2 publicações

  • Modelos de linguagem eficientes

    Destilação, quantização e uso criterioso de contexto para levar modelos grandes a orçamentos pequenos de computação — inclusive em português.

    • destilação
    • quantização
    • contexto longo
    • inferência eficiente
    Ver 2 publicações

  • Avaliação e robustez

    Métricas e protocolos que medem o que importa: calibração, incerteza e comportamento sob mudança de distribuição.

    • calibração
    • incerteza
    • mudança de distribuição
    • benchmarks
    Ver 2 publicações

Publicações

Artigos revisados por pares e preprints, do mais recente ao mais antigo.

Publicações fictícias, apenas para demonstração.

Cada ponto é uma publicação, agrupada por área de pesquisa. As posições são ilustrativas: aproximam temas, não medem distâncias reais. Dentro de cada área, as mais recentes ficam mais acima.

Passe o cursor sobre um item para encontrá-lo no mapa.Toque em “Mostrar mapa” para ver as publicações agrupadas por área.

  1. arXiv · · Preprint · Otimização

    Sharp Routers, Flat Experts: Probing the Loss Landscape of Mixture-of-Experts Models

    Nome Sobrenome, Inessa Petrova, Kukua Mensah

    PDF

    BibTeX
    @misc{sobrenome2026sharp,
  title  = {Sharp Routers, Flat Experts: Probing the Loss Landscape of Mixture-of-Experts Models},
  author = {Nome Sobrenome and Inessa Petrova and Kukua Mensah},
  year   = {2026},
}

  2. NeurIPS · · Conferência · Oral · Otimização

    Descending Gently: Curvature-Aware Warmup for Large-Batch Training

    Nome Sobrenome, Lívia Tanaka, Munachiso Okafor

    PDF Código

    BibTeX
    @misc{sobrenome2025descending,
  title  = {Descending Gently: Curvature-Aware Warmup for Large-Batch Training},
  author = {Nome Sobrenome and Lívia Tanaka and Munachiso Okafor},
  year   = {2025},
}

  3. TMLR · · Periódico · Otimização

    Step-Size Schedules as Control Policies: A Unified View of Warmup, Decay and Restarts

    Nome Sobrenome, Cyprien Moreau

    PDF

    BibTeX
    @misc{sobrenome2024schedules,
  title  = {Step-Size Schedules as Control Policies: A Unified View of Warmup, Decay and Restarts},
  author = {Nome Sobrenome and Cyprien Moreau},
  year   = {2024},
}

  4. ACL · · Conferência · Eficiência

    Distilling Long Context into Compact Students for Retrieval-Heavy Tasks

    Nome Sobrenome, Hilke Weber, Graziela Duarte, Lívia Tanaka

    PDF Código

    BibTeX
    @misc{sobrenome2024distilling,
  title  = {Distilling Long Context into Compact Students for Retrieval-Heavy Tasks},
  author = {Nome Sobrenome and Hilke Weber and Graziela Duarte and Lívia Tanaka},
  year   = {2024},
}

  5. NeurIPS Workshop · · Workshop · Avaliação

    Paraphrase Drift: Stress-Testing Language Model Evaluations with Controlled Rewrites

    Nome Sobrenome, Suhail Haddad

    PDF

    BibTeX
    @misc{sobrenome2024paraphrase,
  title  = {Paraphrase Drift: Stress-Testing Language Model Evaluations with Controlled Rewrites},
  author = {Nome Sobrenome and Suhail Haddad},
  year   = {2024},
}

  6. ICML · · Conferência · Otimização

    Gradient Noise as a Thermometer: Estimating the Effective Temperature of SGD

    Anselmo Ribeiro, Nome Sobrenome, Jonna Lindqvist

    PDF

    BibTeX
    @misc{ribeiro2023gradient,
  title  = {Gradient Noise as a Thermometer: Estimating the Effective Temperature of SGD},
  author = {Anselmo Ribeiro and Nome Sobrenome and Jonna Lindqvist},
  year   = {2023},
}

  7. EMNLP · · Conferência · Eficiência

    Low-Bit, High Fidelity: Quantization-Aware Distillation for Portuguese Language Models

    Telma Brandão, Nome Sobrenome, Firmino Castro

    PDF Código

    BibTeX
    @misc{brandao2023lowbit,
  title  = {Low-Bit, High Fidelity: Quantization-Aware Distillation for Portuguese Language Models},
  author = {Telma Brandão and Nome Sobrenome and Firmino Castro},
  year   = {2023},
}

  8. ICLR · · Conferência · Spotlight · Representações

    Contrastive Views from Weak Supervision: Learning Representations from Noisy Metadata

    Revathi Iyer, Nome Sobrenome, Eneja Novak, Suhail Haddad

    PDF

    BibTeX
    @misc{iyer2022contrastive,
  title  = {Contrastive Views from Weak Supervision: Learning Representations from Noisy Metadata},
  author = {Revathi Iyer and Nome Sobrenome and Eneja Novak and Suhail Haddad},
  year   = {2022},
}

  9. JMLR · · Periódico · Avaliação

    Calibration Under Shift: A Benchmark and Protocol for Uncertainty in Deployed Classifiers

    Munachiso Okafor, Nome Sobrenome, Bunta Nakamura

    PDF Código

    BibTeX
    @misc{okafor2022calibration,
  title  = {Calibration Under Shift: A Benchmark and Protocol for Uncertainty in Deployed Classifiers},
  author = {Munachiso Okafor and Nome Sobrenome and Bunta Nakamura},
  year   = {2022},
}

  10. CVPR · · Conferência · Representações

    Agreeing on Parts: Patch-Level Consistency for Self-Supervised Dense Features

    Nome Sobrenome, Plácido Almeida, Dobromir Kowalski

    PDF

    BibTeX
    @misc{sobrenome2021agreeing,
  title  = {Agreeing on Parts: Patch-Level Consistency for Self-Supervised Dense Features},
  author = {Nome Sobrenome and Plácido Almeida and Dobromir Kowalski},
  year   = {2021},
}

Lista completa no Google Scholar

Fale comigo

Colaborações de pesquisa, convites para palestras e bancas, imprensa ou oportunidades: escreva por aqui ou pelos outros canais. Respondo pessoalmente.

Outros canais

θ* · mínimo encontrado