A Inteligência Artificial Amplifica Falsas Memórias

O Impacto da Inteligência Artificial (IA) na Amplificação de Falsas Memórias

Pesquisadores do MIT e da Universidade da Califórnia, Irvine, descobriram que a IA conversacional, impulsionada por grandes modelos de linguagem, pode amplificar significativamente a criação de falsas memórias em humanos. Isso levanta preocupações sobre o uso de tecnologias de IA em contextos sensíveis, como entrevistas com testemunhas.

Metodologia do Estudo

O estudo foi realizado em duas fases com 200 participantes, que assistiram a um vídeo mudo de CCTV sobre um assalto à mão armada, simulando a experiência de testemunhar um crime. Os participantes foram divididos em quatro grupos: 

• Um grupo de controle;
• Um grupo que respondeu a um questionário com perguntas enganosas;
• Um grupo que interagiu com um chatbot pré-programado; e, 
• Um grupo que usou um chatbot gerativo alimentado por um grande modelo de linguagem. 

A formação de falsas memórias foi avaliada imediatamente após a interação e novamente uma semana depois. A condição com o chatbot gerativo mostrou-se a mais eficaz em induzir falsas memórias.

Impacto nas Falsas Memórias

A condição com o chatbot gerativo induziu quase três vezes mais falsas memórias em comparação com o grupo de controle e cerca de 1,7 vezes mais do que o método baseado em questionário. Após uma semana, 36,8% das respostas ainda eram memórias falsas, com os participantes mantendo uma maior confiança em suas lembranças incorretas.

Factores que Influenciam a Suscetibilidade

Foram identificados vários factores que influenciam a suscetibilidade às falsas memórias induzidas pela IA. Usuários menos familiarizados com chatbots, mas mais familiarizados com a tecnologia de IA em geral, mostraram maior propensão a desenvolver falsas memórias. 

Além disso, participantes com maior interesse em investigações criminais apresentaram maior vulnerabilidade à formação de falsas memórias.

Implicações Éticas da IA

A possibilidade de memórias falsas induzidas pela IA levanta preocupações éticas significativas, especialmente em contextos sensíveis como processos legais e clínicas. Os pesquisadores destacam a necessidade de uma consideração cuidadosa ao implantar tecnologias de IA avançadas em áreas onde a precisão da memória é crucial. 

A capacidade dos chatbots gerativos de implantar memórias falsas persistentes sublinha a importância de desenvolver diretrizes éticas e estruturas legais para mitigar os riscos associados ao uso da IA. À medida que essas tecnologias se tornam mais integradas ao cotidiano, é fundamental abordar as implicações éticas da influência da IA na cognição e na formação de memórias humanas para proteger os interesses individuais e sociais.

Fonte: Seeker