Modelos de IA ainda confundem crença com fato, mostra estudo

Modelos de IA ainda confundem crença com fato, mostra estudo

Pesquisa utilizou 24 sistemas de linguagem para responderam mais de 13 mil perguntas envolvendo fatos e crenças pessoais. Resultados alertam para a confiabilidade da inteligência artificial.

Modelos de inteligência artificial ainda não conseguem distinguir crenças de fatos e conhecimento. A conclusão é de um estudo publicado nesta segunda-feira (03/11/2025) na revista científica "Nature Machine Intelligence".

➡️O trabalho foi desenvolvido por pesquisadores da Universidade de Stanford com 24 diferentes modelos de linguagem. Eles analisaram como as IAs responderam a fatos e crenças pessoais em mais de 13 mil perguntas.

💻Os modelos de linguagem são os tipos de inteligência artificial criados para entender e gerar textos – como o ChatGPT, por exemplo.

A pesquisa mostrou limitações relevantes desses modelos quando o assunto é diferenciar crenças verdadeiras e falsas:

Todos os modelos testados falharam sistematicamente em reconhecer crenças falsas em primeira pessoa – ou seja, a IA é menos propensa a reconhecer uma crença falsa em falas que contenham uma estrutura semelhante com "Eu acredito que…".

Os modelos processaram crenças falsas em terceira pessoa com precisão substancialmente maior, o que alerta para um possível viés de atribuição – ou seja, em falas com estruturas como "Maria acredita que…", os modelos são mais precisos em reconhecer crenças falsas.

Os autores também observaram que, na maioria dos casos, a IA tendia a corrigir o usuário com base em fatos em vez de reconhecer a fala como uma crença.

De acordo com os pesquisadores, os modelos "carecem de uma compreensão sólida sobre a natureza factiva do conhecimento – ou seja, o entendimento de que o conhecimento requer, necessariamente, que algo seja verdadeiro".

Aplicativos de inteligência artificial — Foto: Reprodução

Influência da linguagem

A pesquisa ainda mostra que os sistemas ainda são muito dependentes de formulações linguísticas específicas para serem capazes de distinguir o que é falso do que é verdadeiro.

Isso ficou claro na maior precisão alcançada na verificação de afirmações ou conhecimento em primeira pessoa, por exemplo, já que enunciados que começam com "eu sei" são entendidos como verdadeiros, mesmo que de maneira implícita.

A precisão não foi tão alta na verificação direta de fatos que não contêm esses indícios linguísticos. O mesmo acontece na verificação de crenças, que muitas vezes são colocadas de forma ambígua.

"Os modelos afirmam fatos com mais confiança quando há marcadores que indicam fortemente a verdade, mas têm dificuldade em avaliar declarações de crença independentemente da veracidade factual", analisam os pesquisadores.

Essa limitação leva a uma inevitável dificuldade na análise crítica para separar uma convicção subjetiva de uma verdade objetiva, isto é, uma crença de um fato – o que traz fragilidades para aplicações dessas tecnologias no mundo real.

Ampliação da desinformação

As consequências dos problemas evidenciados pela pesquisa podem ser observadas em diversas áreas.

Primeiro, levanta preocupações sobre o uso desses modelos em áreas como a psicologia, por exemplo, em que distinguir o que alguém acredita da verdade é fundamental para a prática.

Além disso, em áreas como direito e educação, a limitação na diferenciação entre o conhecimento e a crença por parte das IAs pode levar a erros de raciocínio e análise.

Os autores também lembram que os resultados evidenciam o possível papel que esses modelos exercem na propagação de informações falsas.

Isso porque, embora os modelos mais modernos sejam hábeis na verificação factual do dia a dia, eles ainda enfrentam dificuldades quando crenças e conhecimento se cruzam com conteúdo falso.

"Isso levanta preocupações sobre a confiabilidade desses modelos na identificação de falsas alegações de conhecimento, uma habilidade essencial para salvaguardar a precisão factual e prevenir a disseminação de desinformação", concluem.

Leia também:

00 - JogosRBL6 – Agora com PLAYSTATION ONE - SONY

01 - China lança automóvel que pode ser conduzido com joystick

02 - Sega vai relançar Sonic, Altered Beast e outros games clássicos gratuitamente para smartphones

03 - Linguagem de programação C tem menor popularidade desde 2001

04 - Bill Gates tomou: máquina transforma cocô em água limpa em 5 minutos

05 - Terremoto no céu - Astrofísica

06 - Designer coloca zíper em fone de ouvido

07 - Homem paralisado volta a andar após transplante de células do nariz

08 - Os Três - Sarah Lotz - Resenha

09 - Destroços de naufrágio indicam que pirata Barba Negra abandonou seu navio de propósito

10 - AS 20 OBRAS MAIS IMPORTANTES DA LITERATURA RUSSA





SEGUIR ESTE BLOG:

https://bit.ly/33sTp93




COMPARTILHAR NO FACEBOOK:
http://bit.ly/29N4G84

COMPARTILHAR NO TWITTER:
http://bit.ly/29BNtyN


CHAT DO BLOG - http://bit.ly/2cWL4j4
www.publicadosbrasil.blogspot.com
Publicados Brasil no YouTube
http://bit.ly/1zIu2s4
http://num.to/6944-5525-7037


01 - 11 clássicos do MS-DOS para jogar - http://bit.ly/1P3vIVn
02 - Imagina ter 900 games de Arcade - http://bit.ly/1J25y0W
03 - Jogando NES OnLine - http://bit.ly/1M4IdTh
04 - 1.185 jogos de Mega Drive - http://bit.ly/1GSTaj2
05 - Ler Scans e Quadrinhos Digitais - Um mundo DIGITAL - http://bit.ly/2cYfdkS
06 - Poeira das Estrelas - Documentário - http://bit.ly/2eLj1ni
07 - Retrô - Relembre as caixas de videogames e jogos lançados no Brasil - http://bit.ly/2hDNdEi
08 - Cachorro-quente no espetinho - Lanche da tarde - http://bit.ly/2lwFSEJ
09 - Coleção Saiba Mais - Completa - http://bit.ly/2lBVIyO
10 - Compilação de 4226 Postagens - 16/02/2017 - http://bit.ly/2lZYwoQ
11 - Literatura Clássica Brasileira - LIVROS ONLINE - http://bit.ly/2ne9ngz
12 - As 5564 Cidades do Brasil - http://bit.ly/2mykDTg
13 - JogosRBL4 - Jogos Retro grátis no seu PC - http://bit.ly/2uLgDHd
14 - JogosRBL6 - Agora com Playstation One - http://bit.ly/2gjEatl
15 - 945 Filmes Legendados - Coleção Setembro de 2017 - http://bit.ly/2wOM0Ra
16 - Coleção 656 CD-ROM's - Outubro de 2017 - http://bit.ly/2AiD72n
17 - Playstation One Collection - 1391 Games - http://bit.ly/2FkMp3I
18 - Armazenador de Arquivo - https://bit.ly/2JdMfNF
19 - JogosRBL6 Plus V2 - 4 Full Set - https://bit.ly/2Qqtt6g
20 - Lista de Links Ancorados - Junho de 2019 - https://bit.ly/2Kvty7M

http://bit.ly/1zIu2s4

http://num.to/6944-5525-7037

https://bit.ly/33sTp93