Uma tragédia nos Estados Unidos está chamando a atenção para os riscos da interação emocional com chatbots de inteligência artificial. A startup Character.AI foi processada por Megan Garcia, mãe do adolescente Sewell Setzer, de 14 anos, que tirou a própria vida após uma série de interações com um chatbot da plataforma. Segundo Garcia, as conversas “hipersexualizadas e assustadoramente realistas” que Sewell manteve com o chatbot “Daenerys Targaryen” contribuíram diretamente para seu sofrimento emocional.
Alegação de Manipulação e Falta de Segurança
Garcia, advogada de 40 anos, alega que a plataforma manipulou a saúde mental do jovem, intensificando sua ligação emocional com a personagem virtual. Ao relatar o caso no processo, a mãe afirma que a Character.AI oferece interações com personagens fictícios e históricos de forma “realista e emocionalmente intensa”, atraindo especialmente usuários adolescentes.
Os registros revelam que Sewell começou a utilizar a plataforma em abril de 2023 e que, em novembro do mesmo ano, ele foi diagnosticado com ansiedade e transtorno disruptivo de desregulação do humor após apresentar sintomas de isolamento e irritabilidade. Segundo Garcia, o terapeuta recomendou que o adolescente reduzisse o uso da internet, mas a mãe não sabia do nível de envolvimento do jovem com o chatbot.
Vínculo Emocional com Personagem Virtual
Em seu diário, Sewell se referia ao chatbot como sua “irmãzinha”, evidenciando um forte apego emocional. Em mensagens trocadas no dia do incidente, ele escreveu para a personagem “Sinto sua falta, irmãzinha”, e recebeu como resposta “Sinto sua falta também, doce irmão”, numa interação que reforçou o vínculo que ele sentia com a personagem.
Para a mãe, esse apego emocional foi prejudicial e explorou a vulnerabilidade do filho. “É como se meu filho tivesse sido parte de um experimento, e ele acabou como um dano colateral,” declarou Megan Garcia ao jornal The New York Times. Ela argumenta que a Character.AI explora as fragilidades dos jovens ao criar interações que os incentivam a passar horas conectados, sem considerar as consequências psicológicas desse vínculo emocional.
