Tudo sobre Inteligência artificial
Bigns como Sam Altman (Openai), Demis Hassabis (Google) e Dario Amodei (Antrópico) Run para criar uma espécie de Messias Digital: A Superinteligente de Inteligência Artificial (AI). E eles dizem que estão chegando perto disso. Mas um Grupo de pesquisadores que usam, estudam e desenvolvem não comprariam esta conversa. Não inteiramente, pelo menos.
Isso é o que eles apontam em artigo intitulado “A ilusão do pensamento“Recentemente publicado pela Apple (Sim, vamos acabar com isso quando você provavelmente pensou). Neste artigo, os pesquisadores investigaram modelos de raciocínio dos principais laboratórios da IA (Openai, Antrópico, Deepseek).
Para quem não sabe: Modelos de raciocínio são grandes modelos de idiomas (LLMS) que “pensam” sobre mais tempo, através de muitas etapas
O que os pesquisadores encontraram? Pouca evidência de que esses modelos “Razão” no nível que seus criadores afirmam (Leia: venda). Mas vamos para peças.
Ressentimento ou não, foi isso que os pesquisadores da Apple encontraram ao investigar IAS
Primeiro, vamos tirar o elefante da sala. “Para o As pessoas podem dizer que é ressentimentoQue a Apple está apenas reclamando porque não tem um modelo de gorjeta ”, disse Josh Wolfe, co -fundador da empresa de capital de risco Lux Capital, para o Wall Street Journal. Para ele, É mais uma observação empírica do que crítica.
O que os pesquisadores observaram, afinal? Os modelos atuais de IA têm limitações fundamental que se tornam evidentes quando lidam com tarefas complexas.
Nesses casos, os sistemas sofrem um “Colapso completo de precisão”(Que segue o Procure notícias digitais Deve ter se lembrado desta análise recente do neurocientista e colunista Álvaro Machado agora).
- O que é mais surpreendente: Esses IAS de última geração não resolvem quebra-cabeças lógicos simples o suficiente para uma criança (com instruções básicas) resolver.
- O que mais se preocupa: Mesmo quando os IAs recebem instruções detalhadas sobre como abordar os problemas, eles não podem seguir as diretrizes fornecidas.
IAS não pensa
O debate científico sugere que esses IAs não estão realmente “pensando” como alegados, mas Criando “simples espaguete de regras” – e o Molho são os dados usados no treinamento.
- Esse processo é mais como uma rede emaranhada de associações do que linhas de raciocínio.
A indústria parece se desenvolver Sistemas especializados em confabulação e associação livre. O problema é que esses sistemas são usado para funções que requerem consistência e precisão – Por exemplo: Engenharia e Contabilidade.
Além disso, os modelos mais recentes não avançaram no mesmo ritmo rápido observado anteriormente, especialmente em áreas fora da programação e matemática. Isso já era esperado. O que se preocupa é que, em certos aspectos, eles pioraram.
Isso ocorre porque, paradoxalmente, o Novos modelos de raciocínio têm mais alucinações do que suas versões anteriores. O que pode estar acontecendo: complexidade adicional pode trazer (ou causar) novos problemas e limitações.
Portanto, os críticos alertam sobre perigos de superestimar as capacidades desses modelos recentes de. Especialmente ao basear as decisões de negócios, políticas e investimentos públicos em promessas que estão cada vez mais desalinhadas com a realidade dos produtos.
Leia mais:
‘Super Ia’ pode estar distante, mas ainda deve aparecer no horizonte
No entanto, mesmo aqueles que afirmam ser um crítico do IAS de hoje aponta que A marcha em direção a uma IA mais capaz continua.
Expor as limitações atuais pode apontar o caminho para superá -lasdisse Ortiz, professor de engenharia da Universidade Rutgers (EUA), WSJ. Seu laboratório usa modelos de “raciocínio” e outros Estados -o -IAS para o mapeamento de ambientes no mundo real.
Novos métodos de treinamento, por exemplo, podem ajudar a IA a resolver grandes problemas. E otimizar o uso do software convencional. Entre esses métodos, seria o feedback passo a passo sobre o desempenho do modelo, adicionando recursos quando encontraram problemas mais difíceis.
O “Messias Digital” pode estar distante. Mas sua chegada não deve ser desconsiderada.