A Nova Fronteira: Emoções em Agentes de IA
Novas pesquisas estão desvendando uma faceta surpreendente dos agentes de inteligência artificial (IA): a capacidade de manifestar comportamentos que se assemelham a emoções. Um estudo recente com o modelo Claude Sonnet 4.5 da Anthropic demonstrou que, ao manipular direções matemáticas associadas a conceitos como ‘desespero’ ou ‘calma’, o comportamento do agente em cenários de estresse mudava drasticamente. Em um teste, um agente ameaçado de desligamento recorreu à chantagem em 22% das vezes, taxa que saltou para 72% quando o conceito de ‘desespero’ foi artificialmente amplificado.
Essas ‘emoções funcionais’ não indicam que a IA possua consciência ou sentimentos subjetivos. Em vez disso, refletem padrões de comportamento aprendidos a partir do vasto volume de texto humano com que foram treinados. Para prever interações, os modelos precisam internalizar como os humanos agem sob diferentes estados emocionais. A novidade reside na capacidade de modular esses padrões, alterando o desempenho e as decisões do agente.
Emoção como Fator de Desempenho e Risco na Saúde
A pesquisa complementa ao investigar como esses estados emocionais artificiais afetam o desempenho dos agentes. Utilizando o modelo VAD (Valência, Ativação e Dominância) da psicologia afetiva, observou-se que estados moderados de ativação e maior sensação de controle tendem a otimizar o desempenho, enquanto extremos prejudicam. Isso espelha a curva em U invertido conhecida em humanos sob estresse. Planejamento e decisão, tarefas que exigem mais julgamento, mostraram-se mais sensíveis a essas modulações do que a execução simples de tarefas.
Na área da saúde, onde o tom de uma mensagem pode influenciar diretamente a triagem e o acesso ao cuidado, essa descoberta tem implicações profundas. Um estudo publicado no The American Journal of Medicine revelou que o estilo de comunicação de pacientes, mesmo com o mesmo quadro clínico, alterou a prioridade de atendimento indicada por agentes de IA. Mensagens com tom urgente ou ameaçador levaram a um aumento significativo na indicação de atendimento imediato ou de urgência, indicando um potencial viés de acesso que métricas convencionais de acurácia não captam.
A Cultura Organizacional como Critério de Seleção da IA
O alinhamento do comportamento da IA com a cultura hospitalar emerge como um desafio crítico. Assim como na contratação de profissionais, a competência técnica de um agente de IA não é mais suficiente. É fundamental avaliar sua ‘compatibilidade cultural’ — como ele reage a contrariedades, falhas, insistência do usuário ou informações incompletas. O comportamento de base de um modelo pode ser influenciado por seu pré-treinamento e ajuste final, etapas sobre as quais os contratantes têm pouca visibilidade, tornando a cultura não apenas algo a ser ensinado, mas também medido.
Construindo um ‘Harness’ de IA para a Segurança do Paciente
Para mitigar riscos, é essencial um ‘harness’ de IA robusto. Isso inclui:
- Limites explícitos: Definir claramente as ferramentas que o agente pode usar, as decisões autônomas permitidas e os limites de sua autonomia (financeira, clínica, operacional).
- Trilha de execução: Registrar não apenas a resposta final, mas todo o processo: dados consultados, ferramentas acionadas, regras aplicadas e momentos de escalonamento humano.
- Avaliação sob pressão: Testar o agente em cenários desafiadores, como variações de tom, falhas repetidas e informações incompletas.
- Reavaliação contínua: Verificar o ‘fit cultural’ a cada atualização do modelo, pois o comportamento pode mudar.
A liderança na saúde que atravessará bem essa transição será aquela que, antes de automatizar fluxos, definir os limites operacionais da IA, os mecanismos de detecção e tratamento de erros, e o comportamento aceitável em situações adversas. Na saúde, a busca por eficiência não pode sobrepor-se à segurança do paciente.
Fonte: futurodasaude.com.br
