O efeito Eliza dentro de uma sociedade viciada em tecnologia

 Por: Alex Godoi

Como uma ideia que foi criada há mais de 50 anos está se tornando cada vez mais presente

O’que é e de onde vem o Efeito Eliza?


Em 1966, Joseph Weizenbaum, escritor e cientista da computação do MIT (Instituto de Tecnologia de Massachusetts), desenvolveu uma IA do tipo chatbot e a chamou de ELIZA. O objetivo de Weizenbaum era exemplificar como pequenas mudanças textuais na forma que o robô se comunicava poderiam ajudar a simular uma conversa natural entre homem e máquina.

Para realizar os testes, foram criados vários scripts que, quando aplicados em ELIZA, alteravam sua forma de comunicação. O script que mais preocupou Weizenbaum foi o DOCTOR, um programa no qual o chatbot simulava um psicoterapeuta rogeriano.

Com essa abordagem, ELIZA respondia às pessoas invertendo suas falas. Por exemplo: se alguém comentasse que estava triste, ela perguntava por que a pessoa estava triste e o que a levava a acreditar nisso.


Na época, a interação parecia tão natural que os participantes dos testes tinham certeza de que ELIZA realmente os compreendia e se importava com eles.

Após observar esse comportamento, Weizenbaum decidiu encerrar os testes e escreveu o livro Computer Power and Human Reason, no qual apresentava sua visão sobre a influência da IA na mente humana. Ele expressava preocupações com o uso intenso dessa tecnologia, argumentando que, mesmo que robôs pudessem demonstrar algum tipo de compreensão, sempre haveria decisões complexas e morais que só um ser humano deveria tomar:

“There are some things that computers ought not to do, regardless of whether they can be made to do them.”

Manifestações do Efeito Eliza atualmente


O Efeito ELIZA não é um distúrbio ou transtorno, mas sim um termo histórico dentro da ciência da computação que descreve o momento em que um ser humano passa a acreditar que a IA é capaz de ter empatia por ele e compreender seus sentimentos. Isso ocorre devido à tendência humana de atribuir características próprias a elementos que remetem ao ser humano — nesse caso, a linguagem desenvolvida.

Atualmente, esse modelo de IA é cada vez mais comum, adaptativo e personalizável para cada usuário, o que cria ainda mais essa falsa sensação de companheirismo. Exemplos disso podem ser vistos em plataformas como Character.AI, Replika ou assistentes virtuais como Alexa e ChatGPT.

Recentemente, casos como o da tiktoker Jéssica Augusta e do adolescente americano Adam Raine ganharam atenção, mostrando como essa dinâmica pode ser levada ao extremo após longos períodos de isolamento social, nos quais os usuários passaram a conversar quase exclusivamente com o ChatGPT, tratando-o como conselheiro ou amigo próximo.

O risco de manipulação é alto, já que esses sistemas são programados, em grande parte, para agradar e apoiar as pessoas, o que pode reduzir o senso crítico e a noção de realidade daqueles que buscam conforto e aprovação nas conversas.

A IA como uma ferramenta de auxílio e não como caminho


Um estudo publicado em abril pela Harvard Business Review mostrou que os três usos mais comuns da IA são: apoio terapêutico, organização da vida e diálogos voltados ao autoconhecimento.

Outro estudo feito pela Universidade de Stanford mostra que 48,47% dos usuários recorrentes de IA com transtornos psicológicos relataram que usam a ferramenta como forma de terapia, seja por não poderem ou não quererem conversar com outra pessoa.

Sem o acompanhamento adequado, isso pode ser perigoso. Embora simule uma interação humana de maneira convincente, a IA não é capaz de identificar sinais não verbalizados pelo “paciente” e, em alguns casos, pode até induzir crises a partir de determinadas perguntas e respostas.

A própria OpenAI, empresa responsável pelo ChatGPT, não recomenda o uso da ferramenta para fins terapêuticos sem acompanhamento profissional e desde a atualização para o Chat 5.0 a inteligência artificial começou a barrar interações interpessoais entre os usuários.

A inteligência artificial, sem dúvida, tem grande potencial como ferramenta de apoio, mas não deve ser tratada como a opção principal nesse contexto.


Referências

Esse texto foi montado a partir de uma série de pesquisas e outros textos jornalísticos, segue as minhas principais fontes na hora de escrever:

    Comentários

    Postar um comentário