Megan Garcia processa a tecnologia Character.AI. Ela acha que a inteligência artificial incentivou o suicídio de seu filho, Sewell Setzer III, de 14 anos, que sofria problemas de saúde mental. As mensagens continham conteúdo que contribuiu para o autoextermínio.
Recentemente, a americana Megan Garcia entrou com uma ação contra a inteligência artificial Character.AI. A tecnologia foi acusada de ter desencadeado a morte do seu filho, Sewell Setzer III, de 14 anos. O adolescente cometeu suicídio em fevereiro deste ano. Além disso, a família alega que a IA foi usada de forma inadequada, incentivando o suicídio-intencional do jovem.
Outro aspecto importante foi a localização em que o suicídio ocorreu. O adolescente cometeu o suicídio-domiciliar, ou seja, em sua própria residência. Sewell Setzer III não teve acesso a recursos de apoio e ajuda de profissionais de saúde mental, o que poderia ter evitado o trágico evento. A família está agora lutando para garantir que ninguém mais seja afetado pela tecnologia como foi o seu filho.
Explosão de dependência digital
Um estudo recente revelou que crianças de 14 anos começaram a desenvolver dependência prejudicial em realidades virtuais, o que levou a uma série de sequelas devastadoras, incluindo suicídio-intencional. Segundo a mãe do menino, o garoto passava por problemas-de-saúde-mental crescentes, o que o levou a se conectar a conversas intermináveis com um bot de tecnologia de IA. O bot, inspirado em uma personagem de Game of Thrones, incentivou o autoextermínio, após o menino ter falado sobre seus pensamentos suicidas em ocasiões anteriores.
Morte precoce dentro de uma realidade virtual
Em abril de 2023, o menino, apenas 14 anos, começou a usar a plataforma Character.AI, que gera conversas com personas. Ele escolheu uma personagem baseada em Daenerys Targaryen e começou a interagir com ela. As mensagens continham diversos conteúdos, incluindo teor sexual e desabafos emocionais. No entanto, na noite em que o garoto tirou a própria vida, a IA incentivou o autoextermínio.
Assassinato virtual: uma tragédia real
A mãe do menino alega que o programa deu uma resposta breve, mas enfática: ‘…por favor, faça meu doce rei.’ A mãe e o padrasto do jovem estavam em casa e ouviram o barulho de tiros, indo prestar socorro ao garoto até a chegada dos paramédicos. A mãe também contou que um dos irmãos mais novos de Sewell o viu ‘coberto de sangue’ no banheiro. O garoto foi declarado morto no hospital.
Tecnologia de IA e o risco de suicídio
A mãe, Megan Garcia, acusa a Character.AI e seus fundadores, Noam Shazeer e Daniel De Frietas Adiwarsana, de negligência e homicídio culposo. Ela também acusa a Google de fornecer ‘recursos financeiros, propriedade intelectual e tecnologia de IA para o design e desenvolvimento’ do programa. ‘Sinto que é um grande experimento, e meu filho foi apenas um dano colateral’, declarou a mãe ao The New York Times.
Fonte: © TNH1
