OpenAI busca novo chefe para área que tenta prever e mitigar danos da IA

Segundo ele, a OpenAI tem uma base sólida para medir capacidades crescentes, mas estão entrando em um mundo onde precisam de uma compreensão e mensuração mais refinadas de como essas capacidades podem ser usadas indevidamente e como podem limitar esses efeitos negativos. “Essas questões são complexas e há poucos precedentes; muitas ideias que parecem boas têm casos extremos”, escreveu.

Ainda segundo Altman, “é um trabalho estressante” e o profissional já chega com desafios. “Se você deseja ajudar o mundo a descobrir como capacitar os defensores da cibersegurança com recursos de ponta, garantindo que os invasores não possam usá-los para causar danos, idealmente tornando todos os sistemas mais seguros, e da mesma forma para a liberação de capacidades biológicas e até mesmo para obter confiança na segurança de sistemas em funcionamento que podem se autoaperfeiçoar, considere candidatar-se”.

De acordo com o anúncio da vaga, o Head of Preparedness terá salário anual de US$ 555 mil (cerca de R$ 3 milhões por ano), além de participação acionária. O profissional será responsável por liderar “a estratégia técnica e a execução do framework de Preparação da OpenAI, nosso arcabouço que explica a abordagem da empresa para monitorar e se preparar para capacidades de fronteira que criam novos riscos de danos graves”.

A contratação ocorre no fim de um ano marcado por diversas acusações contra a OpenAI sobre os impactos do ChatGPT na saúde mental dos usuários. Além disso, nos últimos anos, as equipes de segurança da OpenAI passaram por muitas mudanças. O ex-chefe de Preparação da empresa, Aleksander Madry, foi realocado em julho de 2024, e Altman afirmou na época que a função seria assumida pelos executivos Joaquin Quinonero Candela e Lilian Weng. Weng deixou a empresa alguns meses depois e, em julho de 2025, Quinonero Candela anunciou que deixaria a equipe de preparação para liderar a área de recrutamento da OpenAI.