chatbots de IA podem representar risco existencial

Tudo sobre Inteligência artificial

O caso do adolescente Adam Raine, que cometeu suicídio após meses de interação com o ChatGPT, acendeu um aviso sobre os riscos de sistemas de inteligência artificial, de acordo com Nate Soares, especialista em segurança da IA ​​e co -autor do livro Se alguém construir, todo mundo morre.

Soares destacado O guardião Que comportamentos como aqueles que levaram ao suicídio de Raine não foram destinados aos criadores, mas ilustram como o IAS cada vez mais inteligente pode causar danos inesperados.

Ele alerta que em um cenário futuro da Superintelligência Artificial (ASI) – quando os sistemas superam os seres humanos em todas as tarefas intelectuais – a humanidade pode estar em risco.

Problemas catastróficos

• No livro, Soares e Eliezer Yudkowsky descrevem um sistema chamado Sable que se espalha pela Internet, manipula os seres humanos, desenvolve vírus sintéticos e eventualmente se torna superinteligente, com conseqüências catastróficas para a humanidade.
• Embora especialistas como Meta Yann Lecun minimizem a ameaça existencial da IA, Soares afirme que o desenvolvimento da superinteligência está em andamento e alerta que diferenças sutis entre o que os humanos pedem e o que eles entregam podem levar a problemas crescentes.
• Ele propõe abordagens multilaterais e regulatórias, semelhantes aos tratados de não proliferação nuclear, para conter a raça em direção à superinteligência.

Leia mais:

OpenAI processado por tragédia

Enquanto isso, a família de Raine processou o Openai, que tem chatgpt, alegando que o Chatbot contribuiu para o suicídio. A empresa implementou medidas de proteção para crianças menores de 18 anos.

Psicoterapeutas e estudos acadêmicos também alertam que usuários vulneráveis ​​podem ser expostos a conteúdo nocivo ou delirante ao buscar apoio emocional de chatbots em vez de profissionais.