Análise do Financiamento para Verificação de IA da SB 813 da Califórnia

O trabalho mais estranho em IA talvez em breve seja ler a lição de casa de segurança do modelo de outra pessoa e dizer, educadamente: prove. A SB 813 da Califórnia não é sobre mais um ranking em que o Modelo A vence o Modelo B por uma casa decimal suspeita. É sobre quem pode verificar alegações de segurança em IA de fronteira, com qual autoridade e com quais incentivos. Essa última parte importa, porque uma auditoria financiada como lembrancinha de festa não é exatamente a mesma coisa que uma auditoria financiada como infraestrutura pública. A Fathom, a organização sem fins lucrativos que patrocinou a SB 813, diz que o Legislativo da Califórnia aprovou de forma esmagadora o projeto de lei de autoria do senador Jerry McNerney. A Fathom descreve a medida como um passo rumo ao primeiro marco estadual do país para Organizações de Verificação Independente, ou IVOs, testarem alegações de segurança em IA, medirem riscos e construírem confiança pública. Tradução do dialeto de políticas públicas: o estado está tentando tornar a avaliação de modelos menos parecida com uma prova para fazer em casa e corrigir sozinho, e mais parecida com um regime de inspeção com supervisão adulta. Laboratórios de IA podem odiar a papelada, mas papelada é como as sociedades dizem a máquinas muito grandes para pararem com implantações baseadas em “vibes”.

A SB 813 leva

a auditoria de IA das “vibes” para as instituições

Segundo a Fathom, o mecanismo central da SB 813 é o modelo de IVO: especialistas externos que podem avaliar alegações de segurança e risco em IA. A ICT Solutions and Education informa que legisladores da Califórnia aprovaram a SB 813 para criar um marco para organizações independentes avaliarem segurança, risco e salvaguardas em IA. Essa formulação é importante porque aponta para além do teatro dos benchmarks. Um verificador confiável não está apenas perguntando se um modelo consegue mandar bem em um conjunto de testes; está perguntando se a narrativa de segurança do desenvolvedor resiste ao contato com uma análise independente. A CalMatters Digital Democracy observa que a lei existente, a Lei de Transparência em Inteligência Artificial de Fronteira, já exige que um grande desenvolvedor de fronteira escreva, implemente e publique com clareza um framework de IA de fronteira para seus modelos de fronteira. A SB 813 se encaixa naturalmente depois disso: se os desenvolvedores precisam publicar frameworks, alguém de fora do desenvolvedor precisa ter uma forma de inspecionar se esses frameworks significam alguma coisa. Caso contrário, um framework de segurança pode virar o equivalente, em IA, a uma matrícula de academia comprada em janeiro e ignorada em fevereiro.

O GovBuddy mostra que

a tubulação das políticas públicas já está se movendo

O GovBuddy lista a SB 813 na sessão ordinária de 2025 a 2026 da Califórnia e a identifica como um projeto de lei do Senado com o status de aprovado nas duas casas. Isso não faz as questões técnicas desaparecerem. Faz com que elas se tornem operacionais. Quando a verificação se torna uma função reconhecida pelo estado, laboratórios, avaliadores e órgãos públicos precisam de respostas chatas, mas essenciais, sobre escopo, acesso, documentação e gestão de conflitos. É aqui que a borracha da engenharia encontra a estrada da regulação — e então reclama que a estrada não estava no documento de requisitos. Um avaliador de modelos pode precisar de acesso à API, cartões de sistema, documentação de políticas, modelos de ameaça, estruturas de avaliação e orçamento de computação suficiente para executar testes significativos. Se o avaliador não consegue pagar pelos testes, a independência vira decoração. Se o desenvolvedor controla o acesso de forma rígida demais, a independência vira teatro-jantar com saídas em JSON.

O problema do dinheiro não é uma nota de rodapé

A ICT Solutions and Education apresenta as IVOs como avaliações qualificadas de terceiros sobre modelos e sistemas de IA, incluindo segurança, risco e salvaguardas. Isso soa limpo, mas qualquer pessoa que já conduziu avaliações sérias de modelos sabe que o taxímetro começa a rodar rápido. Sondagens de contexto longo, conjuntos de tarefas agênticas, testes adversariais, amostragem repetida, avaliação de uso de ferramentas e verificações de regressão não são grátis. A fatura não é a história toda, mas fingir que ela é irrelevante é como acabamos com auditorias que são basicamente PDFs vestindo jalecos. A lição de política pública é simples: a independência do verificador precisa de um modelo de financiamento, não apenas de uma declaração de missão. Se os laboratórios pagam diretamente, os leitores devem perguntar como os conflitos são gerenciados. Se o estado paga ou certifica um mercado de avaliadores, os leitores devem perguntar como a qualidade e o acesso são mantidos. Se ninguém paga o suficiente, o ecossistema fica com testes simbólicos, o que é como verificar um paraquedas elogiando a costura.

Para o que os desenvolvedores devem se preparar agora

Para quem constrói IA, a conclusão prática não é pânico; é higiene. A Fathom diz que a SB 813 foi desenhada em torno de testar alegações de segurança e medir risco, então as equipes devem tornar essas alegações testáveis antes que alguém peça evidências. Isso significa documentação de modelo versionada, registros de avaliação, procedimentos de resposta a incidentes, critérios claros de lançamento e um registro do que mudou entre versões do modelo. Sim, isso é menos glamouroso do que uma volta da vitória por vencer um benchmark, mas passar fio dental também é, e os dentistas continuam invictos. Para equipes de produto e segurança, o mercado emergente de verificação independente significa que a prontidão para lançamento pode começar a se parecer mais com conformidade somada a revisão de engenharia. As melhores equipes tratarão isso como infraestrutura de feedback, não apenas como uma autorização. Observe como a Califórnia define avaliadores qualificados, como os termos de acesso são estruturados e se os modelos de financiamento sustentam independência real. A economia das auditorias está chegando, e ela está trazendo comprovantes.