Pesquisadores da startup de segurança digital Cathedral conseguiram acessar sistemas internos da Anthropic, empresa responsável pelo chatbot Claude, em menos de 12 horas, utilizando agentes de inteligência artificial. A investigação identificou vulnerabilidades em programas de terceiros usados nas operações administrativas da companhia.
As informações foram divulgadas nesta segunda-feira (26) pelo jornal americano The Washington Post, que teve acesso a um relatório preliminar elaborado pela Cathedral. A Anthropic confirmou que os pesquisadores alcançaram parte de seus sistemas, mas contestou a dimensão dos riscos apresentados pela startup.
Pesquisadores tiveram acesso a informações internas
Segundo a investigação, os agentes de IA exploraram falhas em softwares utilizados em atividades comerciais e administrativas. A partir dessas vulnerabilidades, os pesquisadores conseguiram alcançar registros de reuniões, informações salariais, ofertas de emprego e mensagens internas do Slack relacionadas aos modelos de inteligência artificial da Anthropic.
O trabalho ocorreu no contexto de um programa de identificação de vulnerabilidades da própria companhia, que permite a pesquisadores externos examinar sistemas e comunicar possíveis falhas de segurança.
A Cathedral, fundada por ex-integrantes do serviço de eficiência governamental dos Estados Unidos, desenvolve ferramentas de cibersegurança baseadas em inteligência artificial.
Anthropic afirma que dados do Claude não foram acessados
Em resposta ao jornal, a Anthropic reconheceu que os pesquisadores acessaram um conjunto limitado de sistemas das áreas comercial, de recursos humanos e de tecnologia da informação.
A empresa afirmou, porém, que as conversas dos usuários com o Claude, as respostas geradas pelo chatbot, o código-fonte e os parâmetros de seus modelos de inteligência artificial não foram acessados.
Segundo a companhia, parte das atividades foi identificada pelos sistemas de monitoramento antes da comunicação dos pesquisadores. Os acessos foram interrompidos e os softwares afetados permaneceram desativados até a correção das vulnerabilidades pelos fornecedores.
A Anthropic também declarou não ter encontrado evidências de exploração das mesmas falhas por outras pessoas ou organizações. A empresa questionou ainda o cumprimento de determinadas regras do programa de testes pela Cathedral.
Caso expõe riscos de softwares de terceiros
O episódio chama a atenção para a segurança das integrações utilizadas por empresas de tecnologia. Mesmo organizações que desenvolvem sistemas avançados de inteligência artificial dependem de ferramentas externas para administrar funcionários, clientes e operações comerciais.
Essas conexões podem representar pontos de entrada para ataques quando não possuem controles adequados de acesso e monitoramento.
A investigação também demonstra como agentes de inteligência artificial podem acelerar a identificação de vulnerabilidades, ampliando os desafios enfrentados pelas equipes responsáveis pela proteção de dados e sistemas corporativos.