Claude coloca dados em risco — e Anthropic sabe disso

Tudo sobre Inteligência artificial

Antrópico incluído novos recursos em Claude quem pode Coloque os dados do usuário em risco. O alerta foi feito por própria empresa de inteligência artificial (AI) em um comunicação divulgado à imprensa. As novas ferramentas permitem Criar e editar Planilhas do Excel, documentos, slides do PowerPoint e PDFs diretamente no Claude.ai e no aplicativo de desktop.

“Este recurso dá a Claude acesso à Internet Para criar e analisar arquivos que Você pode colocar seus dados em risco. Monitore as conversas de perto Ao usar esse recurso “, avisa a nota. Agentes maliciosos podem Introduzir instruções Em prompts usando arquivos ou sites externos e induzem o chatbot a:

• Baixar e executar Código não confiável no ambiente da caixa de areia para fins maliciosos;
• Leia dados confidenciais de uma fonte de conhecimento conectada a Claude.ai (por exemplo, MCP remoto, projetos) e use o ambiente de sandbox para fazer um Solicitação de rede externa para vazar os dados.

Em suma, Claude pode ser induzido Enviando informações de seu contexto (por exemplo, avisos, projetos, dados, integrações do Google) para terceiros maliciosos. “Para mitigar esses riscos, recomendamos que você monitore Claude ao usar o recurso e o interromper Se você percebe que ele é Usando ou acessando inesperadamente. ”

Medidas de segurança

Na tentativa de tranquilizar os usuários, antropia descritoem uma página de suporte, o Mecanismos de segurança implementados pela empresa para evitar vazamentos:

• Você tem Controle total sobre o apelo. Você pode ativá -lo ou desativá -lo a qualquer hora;
• Claude foi projetado para fornecer Resumos intuitivos de suas ações, para que você possa ver o que ele está fazendo. Você pode interromper Ações de Claude a qualquer hora E nós recomendamos monitor seu trabalho enquanto estiver usando o apelo;
• Dado a você a capacidade de revisar e auditar ações tomadas por Claude dentro do ambiente da Sandbox;
• Desativado o compartilhamento público de conversasque incluem criação de arquivos Artefatos para usuários Pro e Max;
• Limitado a Duração da tarefa que pode ser concluído por Claude e o período onde você pode usar um único recipiente de caixa de areia para Evite loops de atividades maliciosas;
• Limitado intencionalmente você Recursos de rede, contêiner e armazenamento;
• UM classificador para detectar Injeções rápidas e interromper execução se detectada.

Leia mais:

Como usar os novos recursos de Claude?

A criação de arquivos está agora disponível para os usuários de planos Max, equipe e empresa. Usuários Pró terá acesso nas próximas semanas. Anthrópico diz que a novidade torna o trabalho sofisticado em várias etapas acessível através de conversas. “À medida que esses recursos se expandem, a lacuna entre a ideia e a execução continuará a diminuir. ”

Agora, é possível Transforme dados brutos em resultados refinadoscom análise estatística, gráficos e insights escritos; planilhas de modelos financeiros com análise de cenários, rastreadores de projetos ou modelos de orçamento com cálculos de variação; e vez Um relatório em PDF sobre slides do PowerPoint. Este é o passo a passo:

• Habilitar “Criação e análise de arquivos atualizados” em Configurações> Recursos> Experimental;
• Carregar arquivos relevantes ou descrever o que você precisa;
• Guiar Claude no trabalho via bate -papo;
• Baixe seus arquivos concluídos ou salvá -los diretamente de Google Drive;
• Imagem do botão de alternância para ativar o recurso “Criação e análise de arquivos atualizados”.