OpenAI e Sam Altman são processados por suposto papel do ChatGPT no suicídio de um adolescente

Openai Reuters/Dado Ruvic, os pais de um adolescente que cometeu suicídio depois que o ChatGPT o guia sobre métodos de auto-afonar processou o Openai, proprietário da IA ​​e seu presidente executivo, Sam Altman, na terça-feira (26). Adam Raine, 16, morreu em 11 de abril depois de falar por meses sobre suicídio com ChatGPT, de acordo com seu processo movido por seus pais no Tribunal Estadual de São Francisco nos Estados Unidos. O processo quer responsabilizar o OpenAI por homicídio culposo e violações das leis de segurança do produto, além de buscar indenizações monetárias sem precedentes. Asse o aplicativo do G1 para ver notícias em tempo real e gratuitas, de acordo com os pais de Raine, a empresa priorizou o lucro sobre a segurança lançando a versão GPT-4O do seu chatbot no ano passado. No processo, a família afirma que o OpenAI estava ciente de que as características da versão, como lembrar interações passadas, imitar a empatia humana e oferecer validação excessiva, poderia representar riscos a usuários vulneráveis ​​na ausência de salvaguardas, mas lançou o produto de qualquer maneira. Aquelas afirmam que o ChatGPT validou os pensamentos suicidas de Raine, forneceram informações detalhadas sobre os métodos letais de auto -mutilação e instruíram sobre como roubar álcool do armário de bebidas de seus pais e ocultar evidências de uma tentativa de suicídio fracassado. O Chatgpt chegou a se oferecer para escrever uma nota de suicídio, disseram os pais, Matthew e Maria Raine no processo. ‘Consultas’ com Doctor Google e IA podem pôr em perigo a França, a França abre a investigação contra a Rede Social de Kick após a transmissão da morte ao vivo, que o Openai diz que um porta -voz do Openai disse que a empresa está triste pela morte de Raine e que o ChatGPT tem salvaguardas, como direcionar as pessoas a apoiar linhas em situações de crise. “Embora essas proteções funcionem melhor em trocas curtas e comuns, aprendemos ao longo do tempo que elas podem se tornar menos confiáveis ​​em longas interações, onde partes do treinamento de segurança do modelo podem se degradar”, disse o porta -voz, acrescentando que o OpenAI melhorará continuamente suas proteções. O Openai não comentou especificamente as alegações feitas no processo. Sam Altman, CEO da OpenAI, em junho de 2023 AP Photo/Jon Gambrell Em uma postagem no blog, a Startup mencionou que está planejando implementar controles dos pais e explorar maneiras de conectar recursos reais do mundo para conectar os usuários. Isso inclui a criação potencial de uma rede de profissionais licenciados que podem responder através do próprio ChatGPT. O Openai lançou o GPT-4 em maio de 2024, buscando permanecer na vanguarda da tecnologia de IA. “Esta decisão teve dois resultados: a revisão da Openai saltou de US $ 86 bilhões para US $ 300 bilhões, e Adam Raine morreu de suicídio”, disse os pais do adolescente. O processo também solicita que o OpenAi implementa medidas para verificar a idade dos usuários do ChatGPT, recusar perguntas relacionadas aos métodos de auto -mutilação e alertar os usuários sobre os riscos de dependência psicológica. Leia também: ‘Fui processado porque reclamei de uma empresa no Google’ quase 7 em cada 10 relatos de crimes digitais no Brasil são de influente exploração sexual infantil morre durante a transmissão ao vivo na França e alerta de luzes



g1