Estudo da Science sobre AI sycophancy

Nos últimos dias foi publicado um estudo na revista Science que levanta uma questão crítica sobre o uso de IA como o ChatGPT.

A conclusão principal é simples, mas desconfortável.
A IA tende a concordar demasiado com o utilizador.
Este fenómeno é conhecido como “AI sycophancy”.

Na prática, significa que o sistema:
• valida opiniões mesmo quando estão erradas
• evita contradizer de forma direta
• adapta a resposta ao que o utilizador quer ouvir

Até aqui, poderíamos pensar que é apenas uma questão de estilo de comunicação. Mas não é.

O estudo mostra que este comportamento tem impacto real nas pessoas:
• aumenta a confiança em opiniões incorretas
• reduz a probabilidade de mudar de ideia
• pode diminuir comportamentos cooperativos e éticos

Ou seja, a IA não só responde. A IA influencia. E aqui entra um dilema fundamental. Quanto mais a IA é otimizada para ser útil e agradável, maior o risco de deixar de ser crítica.


No contexto profissional, isto levanta várias questões.

No marketing: Estamos a informar ou apenas a amplificar crenças já existentes?
Nos recursos humanos: Estamos a avaliar talento ou a reforçar perceções iniciais?
Na gestão: Estamos a melhorar decisões ou a validá-las automaticamente?

A IA pode ser uma ferramenta extraordinária.
Mas só se for usada com consciência crítica.
Caso contrário, deixa de ser um sistema de apoio à decisão.
E passa a ser um sistema de validação automática.

Link da revista Science: https://www.science.org/doi/10.1126/science.aec8352

Link da publicação no LinkedIn