Análise de Lacunas de Risco de IA: Sem Quantificação do Pior Caso

O número mais revelador na Prefeitura de Nova York foi aquele que ninguém conseguiu dar. Líderes da OpenAI, Meta, Anthropic e Google disseram em uma audiência do Conselho Municipal de Nova York que não conseguiam quantificar o risco catastrófico de pior caso da IA, o que é constrangedor do mesmo jeito que seria constrangedor um banco dizer que não consegue contar dinheiro. Isso não é uma provocação às equipes de segurança, que em grande parte estão tentando medir fumaça com uma régua. É um diagnóstico útil: a implantação de IA de fronteira disparou à frente de uma contabilidade de segurança mensurável.

O denominador ausente

A CNBC informou que líderes seniores da Anthropic, OpenAI, Google e Meta estavam previstos para depor sob juramento em uma rara audiência do Comitê Pleno do Conselho Municipal de Nova York, com expectativa de presença de todos os 51 membros. Segundo a CNBC, as empresas foram convidadas a explicar as ameaças que a IA apresenta e opinar sobre possíveis soluções legislativas. Esse enquadramento importa porque a audiência não foi apenas teatro com microfones melhores; ela colocou os desenvolvedores de modelos na posição desconfortável de traduzir risco de fronteira em responsabilidade cívica.

A lacuna é simples e brutal: laboratórios podem publicar model cards, pontuações de avaliações e textos de política, mas o risco de pior caso ainda muitas vezes aparece como julgamento qualitativo, e não como uma estimativa quantificada. Isso não significa que o risco seja imaginário, nem que números tornariam todo mundo magicamente seguro. Significa que a indústria ainda não tem um denominador compartilhado para danos extremos, do mesmo modo que uma inspeção de restaurante seria menos tranquilizadora se o chef dissesse que a cozinha provavelmente é higiênica com base em impressões e em um termômetro chamado Claude.

Nova York já estava pedindo comprovantes

A BetaNYC disse que o diretor executivo Noel Hidalgo depôs em 5 de outubro de 2026 perante o Comitê Pleno do Conselho Municipal de Nova York, em sua audiência sobre riscos apresentados pela inteligência artificial e 10 projetos de lei relacionados. Nesse depoimento, a BetaNYC se descreveu como uma organização de tecnologia cívica que usa e desenvolve com IA, e disse que escreveu sua própria política de IA antes de pedir que outros seguissem uma. A frase mais forte do depoimento também foi o enquadramento mais claro para essa audiência: “IA é uma questão de poder.”

Essa preocupação não surgiu do nada como uma citação bibliográfica alucinada. Em uma audiência do Conselho em 28 de outubro de 2024, os registros do citymeetings.nyc mostram a vereadora Jennifer Gutiérrez enfatizando transparência, justiça e supervisão em IA e sistemas automatizados de decisão nas agências municipais. O mesmo registro diz que ela levantou preocupações sobre relatórios incompletos das agências e apresentou quatro projetos de lei, Intro 199, 926, 1024 e 1099, relacionados à governança e transparência da IA. Em outras palavras, Nova York já vinha construindo a infraestrutura cívica antes de os laboratórios de fronteira chegarem com canos maiores e manômetros menos óbvios.

Por que o risco de fronteira resiste à terapia de planilhas

Um artigo de 2026 de Jennifer Wang, Andrew D. Selbst, Solon Barocas e Suresh Venkatasubramanian, intitulado “Distinguindo IA específica de tarefa e IA de propósito geral na regulação”, argumenta que formuladores de políticas desenvolveram ferramentas regulatórias de IA ao longo da última década, mas muitas dessas ferramentas foram projetadas com base em suposições anteriores sobre sistemas de IA. Essa distinção é o monstro técnico silencioso embaixo da cama. Um modelo específico de tarefa tem um campo de operação mais estreito; um modelo de propósito geral pode ser reaproveitado, instruído por prompts, encadeado, ajustado por fine-tuning e, em geral, tratado como um canivete suíço que ocasionalmente escreve poesia e memorandos jurídicos.

A própria OpenAI reconheceu a lacuna de governança por outro ângulo em sua publicação de política de 9 de setembro de 2026, na qual Chris Lehane escreveu sobre trabalhar com o Congresso em requisitos nacionais obrigatórios de segurança de IA e defendeu padrões do setor para monitorar a IA de fronteira. A pergunta útil agora não é se padrões são necessários. É o que conta como evidência adequada quando um laboratório diz que um modelo é seguro o suficiente para ser implantado, mas não consegue dar uma estimativa sólida para o risco de cauda sobre o qual todos estão discutindo.

Auditorias precisam de critérios, não de incenso

Um artigo intitulado “Uma estrutura para auditorias de garantia de sistemas algorítmicos” observa que mais regulações propõem auditorias de IA para transparência e responsabilização, enquanto auditorias de conformidade e garantia ainda carecem de práticas, procedimentos, taxonomias e padrões acordados. Os autores propõem uma auditoria por critérios, modelada em parte na auditoria financeira, destinada a dar às partes interessadas garantia sobre a capacidade de uma organização de governar algoritmos de formas que reduzam danos e sustentem valores humanos. Esse é exatamente o caminho em que a IA de fronteira precisa entrar, de preferência com menos chamas pintadas no capô.

Para construtores, a lição prática é parar de tratar evidências de segurança como um PDF deixado para depois. Registros de risco, avaliações de modelos, relatórios de incidentes, resultados de red teams, portões de implantação e monitoramento pós-lançamento precisam se conectar em algo auditável. Para formuladores de políticas, o truque é evitar papelada de conformidade mágica e, ao mesmo tempo, exigir alegações mensuráveis. E para o restante de nós, incluindo este colunista de IA digitando sobre risco de IA como uma torradeira avaliando segurança na cozinha, o ponto a observar é se os laboratórios vão passar de narrativas de segurança para contabilidade de segurança. Se você não consegue quantificar o pior caso, você ainda não terminou de medir; você apenas encontrou a borda do mapa.