Anthropic une-se a 12 gigantes para lançar o plano "Asa de Vidro", usando o modelo Mythos, ainda não divulgado, para corrigir vulnerabilidades globais de software

Autor: Anthropic

Compilado por: Deep Tide TechFlow

Leitura guiada pela Deep Tide: A Anthropic lançou um modelo de ponta Claude Mythos Preview que ainda não foi disponibilizado publicamente, cuja capacidade de auditoria de código já excede a esmagadora maioria dos especialistas humanos em segurança, conseguindo identificar, de forma autónoma, vulnerabilidades zero-day que existem há dezenas de anos.

Com base nesta capacidade, a Anthropic, juntamente com 12 gigantes da tecnologia, incluindo AWS, Apple, Google, Microsoft, NVIDIA e outras, iniciou o plano Project Glasswing, com um limite de crédito de 100 milhões de dólares, com o objetivo de, antes de os atacantes conseguirem capacidades equivalentes, colmatar primeiro as vulnerabilidades do software crítico a nível global.

Introdução

Hoje, anunciamos o Project Glasswing (Plano de Asa de Vidro), uma nova iniciativa que reúne Amazon Web Technologies (AWS), Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks, com o objetivo de proteger a segurança do software mais crítico do mundo.

Lançámos o Project Glasswing porque um novo modelo de ponta treinado pela Anthropic demonstrou capacidades que consideramos poderem remodelar o panorama da cibersegurança. O Claude Mythos Preview é um modelo de ponta, de propósito geral e ainda não lançado, que revela uma verdade dura: as capacidades de codificação dos modelos de IA já atingiram um nível em que, na descoberta e exploração de vulnerabilidades de software, conseguem ultrapassar todas as pessoas — exceto os especialistas mais destacados.

O Mythos Preview já identificou milhares de vulnerabilidades de alto risco, abrangendo todos os principais sistemas operativos e todos os principais navegadores. À velocidade do avanço da IA, esta capacidade irá provavelmente disseminar-se num futuro próximo, podendo cair nas mãos de utilizadores irresponsáveis. O impacto na economia, na segurança pública e na segurança nacional pode ser extremamente grave. O Project Glasswing é uma tentativa urgente para garantir que estas capacidades sejam prioritariamente empregues na defesa.

Como parte do Project Glasswing, os parceiros acima vão utilizar o Mythos Preview no seu trabalho de segurança defensiva; a Anthropic partilhará as lições aprendidas para beneficiar toda a indústria. Também disponibilizámos acesso a mais de 40 organizações que constroem ou mantêm infraestruturas de software críticas, para que possam analisar e reforçar os seus próprios sistemas e sistemas open source. A Anthropic compromete-se a investir até 100 milhões de dólares em limites de utilização do Mythos Preview, bem como 4 milhões de dólares em doações diretas a organizações de segurança open source.

O Project Glasswing é apenas um ponto de partida. Nenhuma instituição consegue resolver os problemas de cibersegurança sozinha: os programadores de IA de ponta, outras empresas de software, investigadores de segurança, mantenedores open source e governos em todo o mundo têm papéis insubstituíveis. Proteger a infraestrutura cibernética global pode exigir vários anos; e as capacidades de IA de ponta podem, nos próximos meses, dar um salto significativo. Para os defensores de rede se anteciparem, é necessário agir já.

Cibersegurança na era da IA

O software de que dependemos todos os dias — executar sistemas bancários, armazenar registos médicos, ligar redes logísticas, manter a rede elétrica em funcionamento — sempre teve bugs. A maioria é irrelevante, mas alguns são falhas de segurança graves que, uma vez descobertas, permitem aos atacantes sequestrar sistemas, paralisar operações ou roubar dados.

As consequências destrutivas dos ciberataques para redes empresariais, sistemas de saúde, infraestruturas energéticas, centros de transporte e agências governamentais de vários países são já amplamente conhecidas. A nível global, ataques de nível estatal provenientes da China, Irão, Coreia do Norte e Rússia ameaçaram as infraestruturas que sustentam a vida civil e a preparação militar. Mesmo ataques de pequena escala contra um único hospital ou escola podem causar grandes perdas económicas, expor dados sensíveis e até colocar vidas em risco. As perdas económicas anuais do crime informático a nível global são difíceis de estimar com precisão, mas podem rondar 500 mil milhões de dólares.

No passado, muitas falhas de software demoravam anos a ser detetadas porque encontrar e explorar essas falhas exigia conhecimentos especializados que apenas um número muito reduzido de especialistas em segurança possuía. Mas com o aparecimento dos mais recentes modelos de IA de ponta, os custos, o esforço e as barreiras profissionais necessários para detetar e explorar vulnerabilidades de software diminuíram drasticamente. No ano passado, os modelos de IA têm vindo a melhorar cada vez mais na leitura de código e no raciocínio, com desempenho particularmente impressionante na deteção de falhas e na construção de formas de exploração. O Claude Mythos Preview alcançou um salto significativo nestas competências de cibersegurança — algumas das vulnerabilidades que deteta continuam a existir após décadas de revisão humana e após milhões de testes de segurança automatizados, e o código de exploração que desenvolve tem-se tornado progressivamente mais sofisticado.

Dez anos após o primeiro DARPA Cyber Grand Challenge, os modelos de IA de ponta estão a aproximar-se ou mesmo a igualar as capacidades de deteção e exploração de vulnerabilidades dos melhores humanos. Sem medidas de segurança necessárias, estas capacidades de rede poderosas podem ser usadas para explorar uma grande quantidade de falhas existentes no software mais importante do mundo. Os ciberataques tornar-se-ão mais frequentes e mais destrutivos, e isso irá dar poder aos adversários dos EUA e dos seus aliados. Esta é uma prioridade de segurança que as democracias devem levar a sério.

A boa notícia é que as capacidades que tornam os modelos de IA perigosos nas mãos erradas também os tornam altamente valiosos para detetar e corrigir falhas importantes — ajudando também a produzir novo software com menos bugs de segurança. O Project Glasswing é um passo essencial para que os defensores construam uma vantagem duradoura na próxima era de cibersegurança orientada por IA.

Capacidades do Claude Mythos Preview para detetar vulnerabilidades e formas de exploração

Nas últimas semanas, utilizámos o Claude Mythos Preview para detetar milhares de vulnerabilidades zero-day (ou seja, falhas que os programadores de software não conheciam totalmente) em cada um dos principais sistemas operativos, em cada um dos principais navegadores e numa série de outros softwares importantes, muitas delas de nível elevado.

No blogue Frontier Red Team, divulgámos alguns detalhes técnicos de parte das vulnerabilidades que já foram corrigidas, bem como as formas de exploração encontradas pelo Mythos Preview. Quase todas as deteções destas vulnerabilidades (e o desenvolvimento de muitas das explorações relacionadas) foram realizadas de forma totalmente autónoma pelo modelo, sem qualquer orientação humana. A seguir, três exemplos:

O Mythos Preview detetou uma vulnerabilidade existente há 27 anos no OpenBSD. O OpenBSD é conhecido por padrões muito elevados de reforço de segurança e é amplamente utilizado em firewalls e noutras infraestruturas críticas. Esta falha permite que um atacante faça o sistema alvo falhar remotamente apenas ao ligar-se à máquina alvo.

Detetou também uma vulnerabilidade existente há 16 anos no FFmpeg. O FFmpeg é utilizado por inúmeros softwares para codificação e descodificação de vídeo. O problema está numa única linha de código, apesar de as ferramentas de testes automatizados terem atingido essa linha 5 milhões de vezes, sem nunca detetar o problema.

O modelo detetou de forma autónoma e encadeou várias vulnerabilidades no kernel Linux (o kernel Linux executa a maior parte dos servidores no mundo), concretizando um ataque de elevação de privilégios desde permissões de utilizador comuns até ao controlo total da máquina.

Todas as vulnerabilidades acima foram comunicadas aos respetivos mantenedores de software e todas foram corrigidas. Para muitas outras vulnerabilidades, hoje disponibilizamos detalhes de hashes de cifragem (ver o blogue do Red Team), que apenas serão publicados com informação específica após a conclusão das correções.

Os benchmarks de avaliação, como o CyberGym, também validaram uma diferença significativa entre o Mythos Preview e o nosso modelo imediatamente abaixo, Claude Opus 4.6:

Reprodução de vulnerabilidades de cibersegurança - CyberGym

Além do nosso próprio trabalho, muitos parceiros já utilizaram o Claude Mythos Preview durante semanas. A seguir, os respetivos comentários:

«As capacidades de IA já ultrapassaram um limiar, alterando fundamentalmente a urgência necessária para proteger infraestruturas críticas contra ameaças cibernéticas — e isso é irreversível. O nosso trabalho com a base destes modelos mostra que é possível identificar e corrigir vulnerabilidades de segurança em hardware e software a uma velocidade e escala sem precedentes. É uma mudança profunda e um sinal claro: as abordagens antigas de reforço já não chegam. Os fornecedores de tecnologia têm de adotar ativamente métodos novos de imediato, e os clientes precisam de estar preparados para a implementação. É por isso que a Cisco se juntou ao Project Glasswing — este trabalho é demasiado importante e demasiado urgente para ser feito sozinho.»

—— Anthony Grieco, Vice-Presidente Sénior e Chief Security and Trust Officer da Cisco

«Na AWS, construímos defesas antes das ameaças surgirem — desde chips personalizados até ao stack tecnológico completo. A segurança não é algo que acontece numa fase específica; é contínua e integrada em tudo o que fazemos. A nossa equipa analisa mais de 400 milhões de milhões de ocorrências de tráfego de rede diariamente para detetar ameaças, e a IA está no centro das nossas capacidades defensivas à escala. Temos vindo a testar continuamente o Claude Mythos Preview na nossa própria segurança operacional, aplicando-o a repositórios de código críticos; já nos está a ajudar a reforçar o código. Estamos a injetar conhecimento profundo em segurança na colaboração com a Anthropic e a ajudar a fortalecer o Claude Mythos Preview, para que mais organizações consigam avançar com os mais elevados padrões de segurança.»

—— Amy Herzog, Vice-Presidente da Amazon Web Services e Chief Information Security Officer

«Quando a cibersegurança deixa de estar limitada a capacidades puramente humanas, a oportunidade de usar IA de forma responsável para melhorar a segurança em larga escala e reduzir riscos é sem precedentes. Ao aderir ao Project Glasswing e obter acesso ao Claude Mythos Preview, podemos identificar e mitigar riscos mais cedo, melhorar as nossas soluções de segurança e de desenvolvimento e, assim, proteger melhor os nossos clientes e a Microsoft. Ao testar no nosso benchmark de segurança open source CTI-REALM, o Claude Mythos Preview demonstrou melhorias substanciais face aos modelos anteriores. Esperamos colaborar com a Anthropic e com uma indústria mais alargada para melhorar os resultados de segurança para todos.»

—— Igor Tsyganskiy, Vice-Presidente Executivo de Segurança Cibernética na Microsoft e Vice-Presidente Executivo da Microsoft Research

«O período entre a deteção de uma vulnerabilidade e a sua exploração por um atacante colapsou — o que antes demorava meses, agora pode ser feito em minutos com IA. O Claude Mythos Preview mostra o potencial para os defensores atuarem em grande escala, enquanto os adversários irão procurar, inevitavelmente, explorar capacidades semelhantes. Isto não é motivo para abrandar; é motivo para avançar em conjunto. Para implementar IA, é necessário ter garantias de segurança. É por isso que a CrowdStrike se envolveu desde o primeiro dia.»

—— Elia Zaitsev, Chief Technology Officer da CrowdStrike

«No passado, o conhecimento especializado em segurança era um luxo para organizações que tinham grandes equipas de segurança. Os mantenedores de software open source — cujo software sustenta grande parte das infraestruturas críticas em todo o mundo — têm historicamente de resolver os problemas de segurança por conta própria. O software open source constitui a maior parte do código em sistemas modernos, incluindo os sistemas em si que os agentes de IA usam para escrever novo software. Ao conceder acesso a uma nova geração de modelos de IA — capaz de identificar e corrigir vulnerabilidades de forma proativa em larga escala — aos mantenedores desses repositórios open source críticos, o Project Glasswing fornece um caminho prático para mudar esta situação. Esta é a forma como a segurança reforçada por IA pode passar de uma ferramenta exclusiva de grandes equipas para um assistente fiável de cada mantenedor.»

—— Jim Zemlin, CEO da Linux Foundation

«Promover a cibersegurança e a resiliência do sistema financeiro está no centro da missão da JPMorgan Chase, e acreditamos que a indústria é mais forte quando as principais instituições desafiam o problema em conjunto e trabalham lado a lado. O Project Glasswing oferece-nos uma oportunidade única e antecipada para avaliar, pelos nossos próprios critérios, as capacidades das próximas ferramentas de IA na cibersegurança defensiva de infraestruturas críticas, ao mesmo tempo que lutamos ombro a ombro com líderes técnicos respeitados. Iremos adotar uma abordagem rigorosa e independente para determinar como avançar e como ajudar. A iniciativa da Anthropic reflete a perspetiva e a abordagem colaborativa que este momento exige.»

—— Pat Opet, Chief Information Security Officer da JPMorgan Chase

«A Google está satisfeita por ver a formação desta iniciativa de cibersegurança intersectorial e por disponibilizar o Mythos Preview aos participantes através da Vertex AI. A colaboração da indústria em questões de segurança emergentes é sempre crucial, quer se trate de criptografia pós-quântica, divulgação responsável de vulnerabilidades zero-day, segurança de software open source ou ataques baseados em defesa por IA. Sempre acreditámos que a IA traz tanto novos desafios como novas oportunidades para a defesa de rede — e é por isso que construímos ferramentas orientadas por IA como Big Sleep e CodeMender para detetar e corrigir falhas críticas de software. Continuaremos a investir em plataformas líderes de cibersegurança e numa cultura centrada na proteção de utilizadores, clientes, ecossistema e segurança nacional.»

—— Heather Adkins, Vice-Presidente Sénior de Google Security Engineering

«Nas últimas semanas, temos vindo a usar o modelo Claude Mythos Preview para identificar vulnerabilidades complexas que os modelos da geração anterior ignoraram completamente. Isto não só altera as regras do jogo para detetar vulnerabilidades escondidas, como também significa que os atacantes conseguem, em pouco tempo, detetar ainda mais vulnerabilidades zero-day e desenvolver código de exploração mais rapidamente do que antes. É óbvio que estes modelos precisam de chegar às mãos dos proprietários dos projetos open source e dos defensores antes de os atacantes obterem acesso. E, talvez mais importante: todos precisam de estar preparados para ataques assistidos por IA. Os ataques serão mais frequentes, mais rápidos e mais complexos. Agora é altura de atualizar completamente o sistema de cibersegurança. Apreciamos a colaboração da Anthropic com a indústria para garantir que estas capacidades poderosas sirvam prioritariamente a defesa.»

—— Lee Klarich, Chief Product and Technology Officer da Palo Alto Networks

A capacidade poderosa de cibersegurança do Claude Mythos Preview provém das suas excecionais capacidades de codificação e raciocínio de agentes. Os resultados de avaliação abaixo mostram que o modelo obteve as melhores pontuações entre todos os modelos conhecidos em várias tarefas de codificação de software.

Codificação de agentes

Raciocínio

Pesquisa de agentes e utilização de computador

Notas:

SWE-bench Verified、Pro e Multilingual：A triagem por memorização assinala parte dos problemas. Após excluir os problemas que possam envolver memorização, a vantagem do Mythos Preview face ao Opus 4.6 mantém-se inalterada.

SWE-bench Multimodal：Utiliza uma implementação interna; a pontuação não pode ser comparada diretamente com a tabela pública de classificação.

Terminal-Bench 2.0：Utiliza o framework Terminus-2, máximo esforço no modo de raciocínio adaptativo, orçamento total de 1 milhão de tokens por tarefa, alocação de recursos garantida 1x / limite 3x, e 5 tentativas por tarefa para média. Após aumentar o limite de tempo esgotado para 4 horas e atualizar para Terminal-Bench 2.1, a pontuação do Mythos Preview é de 92,1%.

BrowseComp：O Claude Mythos Preview tem pontuação superior à do Opus 4.6, enquanto o consumo de tokens é apenas 1/4,9 do deste último.

Humanity’s Last Exam：O Mythos continua a ter bom desempenho no modo de baixo esforço, podendo existir algum grau de memorização.

Para mais informações sobre as capacidades do modelo, atributos de segurança e características básicas, consulte o cartão do sistema do Claude Mythos Preview.

Não planeamos disponibilizar o Claude Mythos Preview ao público, mas o objetivo final é permitir que os utilizadores implementem de forma segura e em larga escala modelos ao nível do Mythos — não apenas para cibersegurança, mas também para muitos outros valores que modelos tão capazes podem trazer. Para tal, precisamos de avançar no desenvolvimento de medidas de proteção (e de cibersegurança e outras) que consigam detetar e impedir as saídas mais perigosas do modelo. Planeamos publicar novas medidas de proteção de segurança no próximo modelo Claude Opus, para que possamos melhorar e aperfeiçoar estas medidas com um modelo que não tenha um nível de risco equivalente ao do Mythos Preview.

Próximos passos do Project Glasswing

O lançamento de hoje é o início de um esforço de longo prazo. Para ter sucesso, é necessária uma participação ampla dentro e fora da indústria tecnológica.

Os parceiros do Project Glasswing obterão acesso ao Claude Mythos Preview para detetar e corrigir vulnerabilidades e fraquezas nos seus sistemas base — que representam uma grande proporção da superfície de ataque de rede partilhada globalmente. As áreas de trabalho previstas incluem deteção de vulnerabilidades locais, testes de caixa-preta em binários, reforço de endpoints e testes de intrusão de sistemas.

O limite de utilização do modelo de 100 milhões de dólares prometido pela Anthropic para o Project Glasswing e para outros participantes cobrirá a grande parte do uso durante a fase de pré-visualização da investigação. Depois disso, o Claude Mythos Preview será disponibilizado aos participantes ao preço de 25 dólares / 125 dólares por milhão de tokens de entrada / saída (os participantes podem aceder ao modelo através de Claude API, Amazon Bedrock, Google Cloud Vertex AI e Microsoft Foundry).

Para além do limite de utilização do modelo, também doámos 2,5 milhões de dólares através da Linux Foundation para a Alpha-Omega e a OpenSSF, e 1,5 milhões de dólares para a Apache Software Foundation, para ajudar os mantenedores de software open source a enfrentar esta nova configuração do panorama (os mantenedores interessados podem solicitar acesso através do programa Claude for Open Source).

Pretendemos que este trabalho se expanda continuamente em âmbito, ao longo de vários meses, e partilhar o máximo possível de experiências, para que outras organizações também possam aplicar essas experiências à sua própria segurança. Os parceiros partilharão entre si informações e melhores práticas dentro do que for permitido pelas condições; em 90 dias, a Anthropic tornará público um relatório com as nossas descobertas, bem como com as vulnerabilidades corrigidas e as medidas de melhoria que possam ser divulgadas. Também iremos colaborar com organizações líderes em segurança para definir um conjunto de recomendações práticas sobre a evolução das práticas de segurança na era da IA, que poderá abranger: processos de divulgação de vulnerabilidades, processos de atualização de software, segurança open source e de cadeias de fornecimento, ciclos de vida do desenvolvimento de software e práticas de design de segurança, padrões de indústria regulamentados, expansão de triagem e automação, e automação de patches.

A Anthropic tem também estado em conversações com responsáveis do governo dos EUA sobre as capacidades ofensivas e defensivas de cibersegurança do Claude Mythos Preview. Proteger infraestruturas críticas é a principal prioridade de segurança nacional dos países democráticos — e o surgimento destas capacidades de cibersegurança volta a evidenciar que os EUA e os seus aliados devem manter uma liderança decisiva nas tecnologias de IA. O governo tem um papel indispensável em ajudar a manter esta liderança e em avaliar e mitigar os riscos de segurança nacional associados aos modelos de IA. Estamos disponíveis para colaborar com representantes de governos a todos os níveis para ajudar a concretizar estas tarefas.

Esperamos que o Project Glasswing dê origem a um esforço de maior escala que abranja tanto o setor industrial como o setor público, para que todas as partes enfrentem em conjunto o maior problema associado ao impacto de modelos poderosos na segurança. Convidamos outros membros da indústria de IA a juntarem-se para ajudar a definir padrões da indústria. A médio prazo, uma entidade independente de terceiro — capaz de reunir organizações dos setores privado e público — pode ser a plataforma ideal para suportar o trabalho subsequente destes grandes projetos de cibersegurança.

Nota adicional

O projeto recebeu o nome da borboleta de asas de vidro (Greta oto). Esta metáfora tem dois significados: as asas transparentes da borboleta permitem que se mantenha invisível, tal como as vulnerabilidades escondidas no código discutidas neste artigo; as asas transparentes também a ajudam a evitar danos, tal como a abordagem transparente que defendemos.

A palavra Mythos tem origem no grego antigo, significando «narrativa» ou «história»: um sistema de histórias que as civilizações usam para compreender o mundo.

Os profissionais de segurança cujo trabalho legal seja afetado por estas medidas de proteção podem solicitar o próximo Cyber Verification Program (Programa de Verificação de Cibersegurança) em breve.