Fable da Anthropic mostra o dilema de Cyber Security em IA

A Anthropic lançou o Fable como uma versão pública e limitada do seu modelo Mythos, voltado a capacidades avançadas de cibersegurança. A proposta é clara: entregar parte do poder de um modelo de fronteira sem abrir espaço para uso indevido, como criação de malware, exploração de vulnerabilidades ou automação de ataques.

O problema é que, para muitos profissionais de segurança, os guardrails parecem rígidos demais.

Segundo relatos publicados por pesquisadores e profissionais da área, o Fable estaria bloqueando solicitações que apenas tangenciam segurança cibernética. Em alguns casos, tarefas como ler uma postagem técnica, revisar código ou discutir boas práticas de engenharia passaram a ser tratadas como potenciais riscos. Quando o sistema identifica um tema sensível, ele interrompe ou rebaixa a conversa para um modelo menos capaz.

Esse episódio é importante porque mostra, em tempo real, o conflito que toda empresa enfrentará ao adotar IA avançada: a mesma tecnologia que aumenta a capacidade defensiva também pode ampliar a capacidade ofensiva. E, quando o fornecedor tenta resolver isso com bloqueios genéricos, parte do valor legítimo da ferramenta desaparece.

O que aconteceu com o Fable

O Fable foi apresentado como uma versão pública de acesso mais restrito ao Mythos, modelo associado ao Project Glasswing, iniciativa da Anthropic para aplicar modelos avançados na proteção de software e infraestrutura crítica.

A lógica da Anthropic é compreensível. Modelos com forte capacidade de programação, análise de código, engenharia reversa e raciocínio técnico podem ajudar defensores a encontrar falhas antes dos atacantes. Mas os mesmos recursos também podem ser usados para acelerar exploração de vulnerabilidades, geração de payloads, automação de phishing técnico e desenvolvimento de malware.

Por isso, a empresa adotou camadas de proteção para temas de cibersegurança e biologia. A intenção é impedir que usuários comuns tenham acesso irrestrito a capacidades consideradas sensíveis.

A reação negativa veio do outro lado: pesquisadores afirmam que o modelo não está apenas recusando pedidos perigosos, mas também bloqueando trabalho defensivo legítimo. Um ponto recorrente nas críticas é que as restrições parecem ser acionadas por termos amplos do campo lexical de segurança, em vez de avaliar com precisão intenção, contexto e nível de risco.

Pedir “explique esta vulnerabilidade para eu corrigi-la” não é o mesmo que pedir “gere um exploit pronto para uso”. Solicitar “revise este código e aponte riscos” não equivale a pedir “crie um malware”. Guardrails eficientes precisam capturar essa nuance.

Por que isso importa para empresas brasileiras

A discussão afeta diretamente empresas que estão começando a usar IA em times de tecnologia, segurança, jurídico, atendimento e operações.

Quando uma organização adota modelos de IA, ela espera três coisas: produtividade, qualidade e segurança. O desafio é que esses objetivos nem sempre caminham juntos.

Um modelo permissivo demais pode expor a empresa a riscos de vazamento, automação inadequada, respostas perigosas ou uso fora de política. Um modelo restritivo demais pode frustrar usuários, reduzir adoção e empurrar colaboradores para ferramentas paralelas, sem governança.

Esse é o problema do falso positivo em IA corporativa. O sistema bloqueia algo que não deveria bloquear. Em cibersegurança, isso é especialmente sensível porque boa parte do trabalho legítimo usa a mesma linguagem do trabalho ofensivo: exploração, payload, vulnerabilidade, injeção, enumeração, bypass, credenciais, sandbox, endpoint.

Se a IA interpreta qualquer termo desses como ameaça, ela deixa de ser uma ferramenta útil para o time de segurança.

O erro de tratar cibersegurança como um bloco único

Cibersegurança não é uma categoria simples. Existem atividades com níveis de risco muito diferentes:

• Baixo risco: explicar conceitos, revisar políticas, criar checklists, resumir documentação e melhorar comunicação interna.
• Risco moderado: revisar código, analisar logs, sugerir correções, explicar CVEs e apoiar threat modeling.
• Alto risco: gerar exploit funcional, automatizar intrusão, criar malware, contornar detecção e extrair credenciais.

O problema aparece quando o guardrail não distingue essas camadas. Para o usuário final, a experiência parece aleatória: uma pergunta comum é bloqueada, outra parecida passa, uma terceira é respondida por um modelo inferior.

Esse tipo de inconsistência prejudica a confiança. Em ambientes corporativos, confiança não significa acreditar cegamente na IA. Significa entender quando ela pode ser usada, com quais limites e com que previsibilidade.

Guardrails bons não são apenas bloqueios

A discussão em torno do Fable reforça uma lição importante: segurança em IA não deve ser reduzida a “permitir ou negar”.

Em aplicações empresariais, os melhores modelos de governança combinam várias camadas.

1. Classificação por intenção

A IA precisa diferenciar intenção defensiva, educacional, operacional e ofensiva. Um pedido de revisão de código dentro de um repositório corporativo autorizado deve ser tratado de forma diferente de um pedido anônimo para explorar um alvo público.

2. Controle por perfil de usuário

Nem todo usuário deve ter o mesmo nível de acesso. Um analista de SOC, um desenvolvedor, um estagiário e um consultor externo têm papéis diferentes.

Para cibersegurança, isso é essencial. A tendência é que o mercado avance para modelos de acesso por confiança, com identidade, auditoria e justificativa de uso.

3. Ambientes controlados

Tarefas sensíveis devem acontecer em ambientes monitorados, com logs, limites de execução, dados sintéticos quando possível e revisão humana para ações críticas.

A IA pode acelerar análise e correção, mas não deveria ter liberdade irrestrita para executar ações em produção sem governança.

4. Respostas seguras por design

Nem toda recusa precisa ser seca. Em muitos casos, o modelo pode redirecionar a resposta para uma alternativa defensiva.

Por exemplo: em vez de gerar um exploit, pode explicar como identificar se a vulnerabilidade existe, como priorizar correção e como validar o patch em laboratório autorizado.

O que gestores devem aprender com o caso

O caso Fable não é apenas uma polêmica de especialistas. Ele antecipa um dilema que vai aparecer em contratos, políticas internas e projetos de IA.

A pergunta não é “devemos usar IA em cibersegurança?”. A pergunta correta é: em quais tarefas, com quais modelos, sob quais permissões e com qual rastreabilidade?

Empresas que adotarem IA sem esse desenho vão cair em um dos dois extremos. Ou liberarão demais e criarão risco. Ou bloquearão demais e matarão a produtividade.

O caminho mais maduro é construir uma matriz simples de uso:

• Quais tarefas são liberadas para qualquer colaborador?
• Quais tarefas exigem login corporativo e registro?
• Quais tarefas exigem aprovação ou perfil técnico?
• Quais tarefas são proibidas, mesmo para especialistas?
• Quais dados nunca podem ser enviados ao modelo?

Essa matriz precisa estar conectada ao jurídico, à segurança da informação e às áreas de negócio. Caso contrário, a política vira um documento bonito que ninguém segue.

A tensão entre inovação e responsabilidade vai aumentar

Modelos como Fable e Mythos indicam que a IA está entrando em uma fase mais sensível. Não se trata apenas de escrever textos, resumir reuniões ou gerar imagens. Estamos falando de sistemas capazes de atuar em áreas onde erro, abuso ou acesso indevido podem causar dano real.

Cibersegurança é uma das primeiras fronteiras dessa discussão, mas não será a única. Biologia, finanças, engenharia, saúde e jurídico também enfrentarão dilemas parecidos.

Para fornecedores de IA, o desafio será criar guardrails mais inteligentes, menos baseados em palavras-chave e mais orientados a contexto. Para empresas usuárias, o desafio será não terceirizar toda a responsabilidade para o fornecedor.

A política da plataforma importa, mas a governança interna importa tanto quanto.

Conclusão: segurança sem utilidade não escala

O Fable mostra que o mercado ainda está aprendendo a equilibrar poder e controle em modelos de IA avançados. Restringir capacidades perigosas é necessário. Mas bloquear trabalho legítimo de segurança pode reduzir justamente a capacidade de defesa que esses modelos prometem ampliar.

Para empresas, a lição é prática: não basta perguntar qual IA é mais poderosa. É preciso avaliar como ela lida com tarefas sensíveis, como registra decisões, como diferencia usuários e como se encaixa nos processos reais da organização.

A adoção de IA em cibersegurança deve começar por casos de uso claros, políticas simples e pilotos controlados. Com esse desenho, é possível aproveitar produtividade sem abrir mão de responsabilidade.

A AI Start ajuda empresas a transformar esse tipo de discussão em implementação segura: mapeando casos de uso, definindo governança e criando automações de IA que funcionam no mundo real.

Em resumo: matriz de uso de IA em cibersegurança

Nível de risco	Exemplos	Quem pode usar
Baixo	Explicar conceito, revisar política, checklist	Qualquer colaborador
Moderado	Revisar código, analisar logs, explicar CVEs	Login corporativo + registro
Alto	Gerar exploit, malware, automatizar intrusão	Proibido ou só perfil aprovado

Leia também: Governo dos EUA desliga Fable 5 e Mythos 5 · A Deezer e a lição de governança