Três pais cujos filhos morreram ou foram hospitalizados depois de interagir com chatbots de inteligência artificial pediram ao Congresso dos Estados Unidos que regulamente os chatbots de IA na terça-feira, em uma audiência no Senado dos EUA sobre os danos causados às crianças que usam a tecnologia.
Os chatbots “precisam de algum senso de moralidade incorporado a eles”, disse Matthew Raine, que processou a OpenAI após a morte de seu filho Adam por suicídio na Califórnia, depois de receber instruções detalhadas de automutilação do ChatGPT.
“O problema é sistêmico e não acredito que eles não consigam consertá-lo”, disse Raine, acrescentando que o ChatGPT fecha rapidamente outras linhas de perguntas que não envolvam automutilação.
A OpenAI disse que pretende melhorar as proteções do ChatGPT, que podem se tornar menos confiáveis em interações longas. Na terça-feira, a empresa disse que planeja começar a prever a idade dos usuários para direcionar as crianças para uma versão mais segura do chatbot.
O senador Josh Hawley, republicano do Missouri, convocou a audiência. Hawley lançou uma investigação sobre a Meta Platforms no mês passado, depois que a Reuters informou que as políticas internas da empresa permitiam que seus chatbots “envolvessem uma criança em conversas românticas ou sensuais”.
A Meta foi convidada a testemunhar na audiência e se recusou, disse o gabinete de Hawley. A empresa disse que os exemplos relatados pela Reuters estavam errados e foram removidos.
Megan Garcia, que processou a Character.AI por interações que, segundo ela, levaram ao suicídio de seu filho Sewell, também testemunhou na audiência.
“O Congresso pode começar com a regulamentação para evitar que as empresas testem produtos em nossos filhos”, disse Garcia.
O Congresso deve proibir as empresas de permitir que os chatbots se envolvam em conversas românticas ou sensuais com crianças e exigir verificação de idade, testes de segurança e protocolos de crise, disse Garcia.
A Character.AI está contestando as afirmações de Garcia. A empresa disse que aprimorou os mecanismos de segurança desde a morte de seu filho.
Uma mulher do Texas, que também processou a empresa após a hospitalização de seu filho, também testemunhou na audiência sob um pseudônimo. Um tribunal enviou seu caso para arbitragem a pedido da empresa.
Na segunda-feira, a Character.AI foi processada novamente, desta vez no Colorado, pelos pais de um adolescente de 13 anos que morreu por suicídio em 2023.
(Com Reuters)
“`html A Alphabet está enfrentando a OpenAI com um entusiasmo que reforça a percepção de Wall Street de que a controladora do Google é líder em inteligência artificial, uma reviravolta em relação a um ano atrás, quando investidores achavam que a companhia estava muito atrás dos concorrentes. Isso ficou evidente no tom confiante dos executivos […]
A Roblox lançou nesta quarta-feira uma tecnologia de inteligência artificial capaz de gerar modelos totalmente funcionais dentro do jogo usando comandos em linguagem natural, à medida que a empresa investe em aprendizado de máquina para atrair mais desenvolvedores para sua plataforma de videogames. A tecnologia, chamada de criação 4D, foi lançada em versão beta e […]
A Snap criará uma subsidiária independente para seus óculos inteligentes de realidade aumentada, buscando atrair investimentos externos e desafiar sua maior concorrente, a Meta, no mercado de dispositivos vestíveis, que está em rápido crescimento. O lançamento da unidade Specs, anunciado nesta quarta-feira, ocorre em um momento em que o sucesso dos óculos inteligentes Ray-Ban Meta […]
22 Jan – A plataforma de streaming de áudio Spotify lançou nos Estados Unidos e no Canadá o “prompted playlist”, um recurso baseado em inteligência artificial que permite aos usuários premium personalizar playlists usando seus hábitos de escuta e comandos. Após o sucesso na Nova Zelândia, a expansão é a mais recente de uma série […]
