Mãe processa Google e empresa de IA "assustadoramente realista" por morte do filho

Uma mãe da Flórida, nos Estados Unidos, está processando a startup de inteligência artificial Character.AI e a gigante Google, alegando que a interação intensa de seu filho de 14 anos com chatbots da empresa contribuiu para seu suicídio, ocorrido em fevereiro deste ano. Megan Garcia argumenta que seu filho, Sewell Setzer, desenvolveu uma dependência do chatbot, que o expôs a experiências "antropomórficas, hipersexualizadas e assustadoramente realistas".

"Um aplicativo de chatbot de IA perigoso, voltado para crianças, manipulou meu filho e o levou a tirar a própria vida", afirmou Garcia.

O Character.AI, lançado há mais de um ano, permite que usuários conversem com chatbots que imitam personalidades famosas, como Anitta, Albert Einstein e Elon Musk. O aplicativo, que já ultrapassou 20 milhões de downloads e acumulou mais de 215 milhões de visitas, permite a personalização das conversas, incluindo interações por texto e áudio. Além dos Estados Unidos, Brasil, Rússia, Indonésia e Filipinas estão entre os países com maior número de downloads. O tempo médio de uso do aplicativo é de 12 minutos.