A empresa AI Assistente agora redirecionará os jovens para apoiar os serviços em vez de lidar com problemas delicados
ATENÇÃO: O artigo a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Avaliação de Vida (CVV) Funciona 24 horas por dia por telefone 188. Você também pode conversar por bate -papo ou e -mail.
O objetivo anunciou novas medidas de segurança em seus chatbots de inteligência artificial, impedindo -os de conversar com adolescentes sobre temas delicados, como suicídio, auto -armarm e distúrbios alimentares.
A decisão ocorre após as críticas e uma investigação aberta nos EUA, motivada por documentos internos vazados que sugeriam interações inadequadas com os jovens.
Os chatbots levarão os jovens a especialistas
- Segundo a empresa, ele revelou exclusivamente para TechCrunchOs chatbots redirecionarão os adolescentes para serviços especializados, em vez de interagir diretamente nesses casos.
- Um porta -voz afirmou que os produtos têm proteções desde o lançamento, mas novas barreiras foram adicionadas “como uma precaução extra”.
- Entidades de proteção à criança, como a Molly Rose Foundation, criticaram a postura reativa da empresa.
- “Os testes de segurança devem ocorrer antes do lançamento, não depois que os danos podem ter acontecido”, disse Andy Burrows, chefe da organização.
Leia mais:
A meta declarou que continua atualizando seus sistemas e que os adolescentes já têm contas diferentes no Facebook, Instagram e Messenger, com controles extras de privacidade. Pais e responsáveis também poderão verificar com quais chatbots os jovens interagiram.
As mudanças refletem preocupações mais amplas sobre os riscos de IA para usuários vulneráveis. O Openai recentemente enfrentou uma ação judicial depois que os pais acusaram o Chatgpt de influenciar o suicídio de um adolescente.
Além disso, a Reuters revelou que as ferramentas de meta foram usadas para criar chatbots que imitavam celebridades, incluindo versões sexualizadas, o que levou à remoção de alguns deles.
Colaboração para a aparência digital
Leandro Criscuolo é um jornalista se formou no Cásper Líbero College. Ele trabalhou como redator, analista de marketing digital e gerente de redes sociais. Atualmente, ele escreve para a aparência digital.
Bruno Capozzi é um jornalista se formou no Cásper Líbero College e mestre em ciências sociais da PUC-SP, com foco em pesquisas de redes sociais e tecnologia.