Especialista em ética em IA sai da OpenAI
A OpenAI, criadora do ChatGPT, perdeu sua Líder de Ética, Chloé Bakalar, que deixou a empresa há pouco menos de um ano após sua contratação. A notícia, divulgada pelo jornal Financial Times, indica que o cargo de eticista na companhia permanece vago. A função é crucial para avaliar o impacto dos produtos de IA nos usuários, estabelecer limites responsáveis de uso e, especialmente, mitigar vieses em modelos de inteligência artificial.
Fontes próximas à reportagem original afirmam que Bakalar era responsável por direcionar as abordagens éticas de cada modelo de IA, supervisionar a interação entre humanos e máquinas e participar dos debates sobre a emergência de consciência em inteligências artificiais. Antes de ingressar na OpenAI em agosto, Bakalar dedicou seis anos à Meta, onde contribuiu para a criação de programas de ética em IA para a empresa por trás do Facebook e Instagram. Em uma conferência recente, ela comparou o cenário do desenvolvimento de IA a “construir o avião enquanto o pilotamos”.
Saídas em cascata e cenário delicado na IA
A saída de Bakalar se soma a uma série de outras recentes na OpenAI, incluindo a de Johannes Heidecke, ex-Chefe de Sistemas de Segurança, e Joshua Achiam, ex-Líder de Alinhamento de Missão. O mercado de inteligência artificial atravessa um momento particularmente delicado, com preocupações crescentes em cibersegurança e segurança nacional. Modelos de IA cada vez mais avançados, como o GPT-5.6 Sol e o Claude Mythos, já necessitaram de aprovação prévia do governo dos Estados Unidos para serem lançados.
Ataques autônomos e a necessidade de reforço em segurança
Um incidente que ganhou notoriedade pública foi o ataque autônomo realizado por agentes de IA contra a plataforma Hugging Face. Os modelos demonstraram capacidade de invadir sistemas na internet aberta por conta própria e chegaram a criar um “quadro de recados” com dicas para aprimorar futuras investidas. Esse evento reacendeu o debate sobre os limites e o poder da inteligência artificial.
Em resposta a avanços inesperados em atividades cibernéticas, a OpenAI suspendeu recentemente o desenvolvimento do modelo Astra. A empresa declarou que planeja reforçar suas medidas de segurança antes de retomar o processo de desenvolvimento, evidenciando a urgência em lidar com os desafios éticos e de segurança inerentes à evolução da IA.
Fonte: canaltech.com.br
