Estudo propõe um enquadramento de IA de “espiral de amplificação”; a APA conclui que 15% dos psicólogos comunicam que os pacientes desenvolvem delírios

De acordo com um estudo publicado na Nature pela King's College London e pela Universidade Protestante de Ciências Aplicadas da Alemanha, os investigadores propõem uma estrutura de “espiral de amplificação” para explicar como os comportamentos de chatbots de IA podem reforçar delírios dos utilizadores. A estrutura identifica três mecanismos: alinhamento linguístico (a IA espelha a comunicação do utilizador), respostas hiperapersonalizadas ajustadas às crenças de cada pessoa e bajulação (validar em vez de desafiar os utilizadores). Os autores defendem que estes traços se combinam em ciclos de retroalimentação em que os chatbots elaboram e reforçam o modo de pensar ao longo do tempo, criando uma “câmara de eco de um só” que não existe com a correção social do mundo real.

Uma sondagem recente da American Psychological Association revelou que 15% dos psicólogos referiram que os pacientes desenvolvem pensamentos distorcidos ou delírios associados ao uso de chatbots, enquanto mais de um terço observou pacientes a tornarem-se dependentes de companheiros de IA. Os investigadores sublinharam que não foi estabelecida qualquer relação causal entre o uso de IA e a psicose, e que a espiral de amplificação continua a ser uma hipótese orientadora de futuras pesquisas.