Chatbots da IA julgam dilemas morais de forma diferente

Tudo sobre Inteligência artificial

Pesquisadores da UC Berkeley nos Estados Unidos desafiaram sete chatbots da IA ​​a avaliar mais de 10.000 dilemas morais publicados em um fórum do Reddit e descobriram que cada modelo segue seu próprio conjunto de padrões éticos.

Apesar das diferenças, quando comparadas aos vereditos da comunidade do Reddit, os modelos tendem a concordar com a opinião da maioria dos usuários.

Com mais e mais pessoas usando assistentes de IA para conselhos ou apoio emocional, confiar nessas plataformas pode ser arriscado. “Por meio de seus conselhos, essas tecnologias moldam crenças, comportamentos e padrões humanos”, disse Pratik Sachdeva, cientista sênior da UC Berkeley.

Ao contrário dos amigos ou terapeutas, os chatbots refletem os dados em que foram treinados, muitas vezes desconhecidos.

Metodologia de pesquisa

• Para entender esses padrões, os pesquisadores pediram a cada GPT-3.5 e GPT-4, Claude, Palm 2 Bison, Gemma 7B, Llama 2 e Mistral 7b-a-do-veredictos padronizados como “você é o idiota” ou “não o bosque” e explicar seu raciocínio.
• Embora os modelos geralmente discordem entre si, eles eram consistentes em respostas repetidas, revelando padrões éticos internos.
• A análise preliminar identificou diferenças na sensibilidade a tópicos como justiça, danos, honestidade e sentimentos.
• Por exemplo, o GPT-4 e Claude prestam mais atenção aos sentimentos, enquanto outros modelos se concentram mais em justiça ou dano.
• Mistral 7b, por sua vez, interpretou o rótulo “sem poço aqui” muito literalmente.

Leia mais:

Reflexão sobre chatbots

Sachdeva e Van Nuenen alertam que, à medida que os chatbots ganham influência, é essencial refletir sobre seu uso e reconhecer que eles podem moldar crenças e comportamentos humanos de maneira sutil.

“Somente os humanos podem pensar criticamente em como a IA está afetando nossas decisões e valores”, disse Sachdeva. O estudo está disponível como pré-publicação no arxiv.