Análisis de la financiación de verificación de IA de la SB 813 de California

El trabajo más extraño en IA pronto podría ser leer la tarea de seguridad del modelo de otra persona y decir, con educación: demuéstralo. La SB 813 de California no trata de otro ranking en el que el Modelo A supera al Modelo B por un decimal sospechoso. Trata de quién puede verificar las afirmaciones sobre seguridad de la IA de frontera, bajo qué autoridad y con qué incentivos. Esa última parte importa, porque una auditoría financiada como un regalito de fiesta no es exactamente lo mismo que una auditoría financiada como infraestructura pública. Fathom, la organización sin fines de lucro que patrocinó la SB 813, dice que la Legislatura de California aprobó de forma abrumadora el proyecto de ley redactado por el senador Jerry McNerney. Fathom describe la medida como un paso hacia el primer marco estatal del país para Organizaciones de Verificación Independiente, o IVOs, destinadas a probar afirmaciones sobre seguridad de la IA, medir riesgos y construir confianza pública. Traducción desde el dialecto de las políticas públicas: el estado está intentando hacer que la evaluación de modelos se parezca menos a un examen para hacer en casa y autocorregido, y más a un régimen de inspección con supervisión adulta. Puede que a los laboratorios de IA les moleste el papeleo, pero el papeleo es la forma en que las sociedades les dicen a máquinas muy grandes que dejen de desplegarse basándose en sensaciones.

La SB 813 traslada

la auditoría de IA de las sensaciones a las instituciones Según Fathom, el mecanismo central de la SB 813 es el modelo de IVO: expertos externos que pueden evaluar afirmaciones sobre seguridad de la IA y riesgos. ICT Solutions and Education informa que los legisladores de California aprobaron la SB 813 para crear un marco para que organizaciones independientes evalúen la seguridad, los riesgos y las salvaguardas de la IA. Esa formulación es importante porque apunta más allá del teatro de los benchmarks. Un verificador creíble no solo pregunta si un modelo puede sacar una nota perfecta en un conjunto de pruebas; pregunta si la historia de seguridad del desarrollador resiste el contacto con un escrutinio independiente. CalMatters Digital Democracy señala que la ley vigente, la Ley de Transparencia en Inteligencia Artificial de Frontera, ya exige que un gran desarrollador de frontera redacte, implemente y publique claramente un marco de IA de frontera para sus modelos de frontera. La SB 813 encaja de forma natural después de eso: si los desarrolladores deben publicar marcos, alguien externo al desarrollador necesita una forma de inspeccionar si esos marcos significan algo. De lo contrario, un marco de seguridad puede convertirse en el equivalente en IA de una membresía de gimnasio comprada en enero e ignorada en febrero.

GovBuddy muestra que la fontanería de las políticas ya está en movimiento

GovBuddy incluye la SB 813 en la sesión ordinaria de California de 2025 a 2026 y la identifica como un proyecto de ley del Senado con el estado “Aprobado por ambas cámaras”. Eso no hace que desaparezcan las preguntas técnicas. Las vuelve operativas. Una vez que la verificación se convierte en una función reconocida por el estado, los laboratorios, evaluadores y organismos públicos necesitan respuestas aburridas pero esenciales sobre alcance, acceso, documentación y gestión de conflictos. Aquí es donde la ingeniería se encuentra con la carretera regulatoria, y luego se queja de que la carretera no estaba en el documento de requisitos. Un evaluador de modelos puede necesitar acceso a la API, tarjetas de sistema, documentación de políticas, modelos de amenazas, arneses de evaluación y suficiente presupuesto de cómputo para ejecutar pruebas significativas. Si el evaluador no puede costear las pruebas, la independencia se vuelve decorativa. Si el desarrollador controla demasiado el acceso, la independencia se convierte en teatro de sobremesa con salidas JSON.

El problema del dinero no es una nota al pie

ICT Solutions and Education presenta a las IVOs como evaluaciones calificadas de terceros sobre modelos y sistemas de IA, incluyendo seguridad, riesgo y salvaguardas. Eso suena ordenado, pero cualquiera que haya realizado evaluaciones serias de modelos sabe que el contador empieza a correr rápidamente. Las pruebas de contexto largo, los conjuntos de tareas agénticas, las pruebas adversariales, el muestreo repetido, la evaluación del uso de herramientas y las comprobaciones de regresión no son gratis. La factura no es toda la historia, pero fingir que es irrelevante es como terminamos con auditorías que son básicamente PDFs con bata de laboratorio. La lección de política pública es simple: la independencia del verificador necesita un modelo de financiación, no solo una declaración de misión. Si los laboratorios pagan directamente, los lectores deberían preguntar cómo se gestionan los conflictos. Si el estado paga o certifica un mercado de evaluadores, los lectores deberían preguntar cómo se mantienen la calidad y el acceso. Si nadie paga lo suficiente, el ecosistema obtiene pruebas simbólicas, que es como revisar un paracaídas felicitando las costuras.

Qué deberían preparar ahora los constructores Para quienes construyen

IA, la conclusión práctica no es entrar en pánico, sino tener higiene. Fathom dice que la SB 813 está diseñada en torno a probar afirmaciones de seguridad y medir riesgos, así que los equipos deberían hacer que esas afirmaciones sean comprobables antes de que alguien más pida pruebas. Eso significa documentación de modelos con versiones, registros de evaluación, procedimientos de respuesta a incidentes, criterios claros de lanzamiento y un historial de lo que cambió entre versiones del modelo. Sí, esto es menos glamuroso que una vuelta triunfal por ganar un benchmark, pero también lo es usar hilo dental, y los dentistas siguen invictos. Para los equipos de producto y seguridad, el mercado emergente de verificación independiente significa que la preparación para el lanzamiento puede empezar a parecerse más a cumplimiento normativo más revisión de ingeniería. Los mejores equipos tratarán esto como infraestructura de retroalimentación, no simplemente como un permiso. Observa cómo California define a los evaluadores calificados, cómo se estructuran los términos de acceso y si los modelos de financiación respaldan una independencia real. La economía de la auditoría está llegando, y trae recibos.