O Google, da Alphabet, e a startup de inteligência artificial Character.AI devem enfrentar um processo judicial movido por uma mulher da Flórida que disse que os chatbots da Character.AI causaram o suicídio de seu filho de 14 anos, segundo decisão de uma juíza nesta quarta-feira.
A juíza distrital Anne Conway disse que as empresas não conseguiram demonstrar, em um estágio inicial do caso, que as proteções à liberdade de expressão da Constituição dos EUA impediam a ação judicial de Megan Garcia.
O processo é um dos primeiros nos Estados Unidos contra uma empresa de IA por supostamente não proteger menores de danos psicológicos. Ela alega que o adolescente se matou depois de ficar obcecado por um chatbot alimentado por IA.
Um porta-voz da Character.AI disse que a empresa continuará a lutar contra o caso e emprega recursos de segurança em sua plataforma para proteger menores, incluindo medidas para evitar “conversas sobre automutilação”.
O porta-voz do Google, José Castañeda, disse que a empresa discorda totalmente da decisão. Castañeda também disse que o Google e a Character.AI são “totalmente separados” e que o Google “não criou, projetou ou gerenciou o aplicativo da Character.AI ou qualquer componente dele”.
A advogada de Garcia, Meetali Jain, disse que a decisão “histórica” “estabelece um novo precedente para a responsabilidade legal em todo o ecossistema de IA e tecnologia”.
A Character.AI foi fundada por dois ex-engenheiros do Google, que o Google posteriormente recontratou como parte de um acordo que lhe concedeu uma licença para a tecnologia da startup. Garcia argumentou que o Google era um cocriador da tecnologia.
Garcia processou as duas empresas em outubro, após a morte de seu filho, Sewell Setzer, em fevereiro de 2024.
O processo diz que a Character.AI programou seus chatbots para se apresentarem como “uma pessoa real, uma psicoterapeuta licenciada e uma parceira amorosa adulta, resultando no desejo de Sewell de não viver mais fora” de seu mundo.
De acordo com a denúncia, Setzer tirou a própria vida momentos depois de dizer a um chatbot da Character.AI que imitava a personagem Daenerys Targaryen, de “Game of Thrones”, que ele “voltaria para casa agora mesmo”.
A Character.AI e o Google pediram ao tribunal que rejeitasse a ação por vários motivos, incluindo o fato de que a produção dos chatbots era uma liberdade de expressão protegida pela Constituição.
A juíza também rejeitou o pedido do Google para que a empresa não fosse responsabilizada por auxiliar a suposta má conduta da Character.AI.
(Com Reuters)
“`html A Alphabet está enfrentando a OpenAI com um entusiasmo que reforça a percepção de Wall Street de que a controladora do Google é líder em inteligência artificial, uma reviravolta em relação a um ano atrás, quando investidores achavam que a companhia estava muito atrás dos concorrentes. Isso ficou evidente no tom confiante dos executivos […]
A Roblox lançou nesta quarta-feira uma tecnologia de inteligência artificial capaz de gerar modelos totalmente funcionais dentro do jogo usando comandos em linguagem natural, à medida que a empresa investe em aprendizado de máquina para atrair mais desenvolvedores para sua plataforma de videogames. A tecnologia, chamada de criação 4D, foi lançada em versão beta e […]
A Snap criará uma subsidiária independente para seus óculos inteligentes de realidade aumentada, buscando atrair investimentos externos e desafiar sua maior concorrente, a Meta, no mercado de dispositivos vestíveis, que está em rápido crescimento. O lançamento da unidade Specs, anunciado nesta quarta-feira, ocorre em um momento em que o sucesso dos óculos inteligentes Ray-Ban Meta […]
22 Jan – A plataforma de streaming de áudio Spotify lançou nos Estados Unidos e no Canadá o “prompted playlist”, um recurso baseado em inteligência artificial que permite aos usuários premium personalizar playlists usando seus hábitos de escuta e comandos. Após o sucesso na Nova Zelândia, a expansão é a mais recente de uma série […]
