Autorregulación de la IA: análisis de Anthropic, OpenAI y Dario Amodei

Sigo pensando en el letrero plastificado de la piscina pública donde crecí: no correr, no traer vidrio, no tirarse de cabeza en la parte poco profunda. Nadie lo confundía con teoría política. Era simplemente el contrato social necesario para permitir que muchas personas emocionadas compartieran un rectángulo de agua riesgoso. Ahora la IA tiene un problema de letrero de piscina, salvo que los nadadores más fuertes se están ofreciendo a escribir el letrero, instalar la cerca y definir qué cuenta como comportamiento seguro.

El parche antes del reglamento

MIT Technology Review informó que el 21 de julio de 2023, siete empresas líderes de IA, Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, asumieron ocho compromisos voluntarios con la Casa Blanca para desarrollar IA de una manera segura y confiable. Esos compromisos incluían mejorar las pruebas y la transparencia en torno a los sistemas de IA, además de compartir información sobre posibles daños y riesgos, según la publicación. Un año después, MIT Technology Review encontró avances positivos en prácticas como los equipos rojos y las marcas de agua, pero dijo que no había transparencia ni rendición de cuentas significativas.

Esa es la tensión escondida dentro de la frase compromiso voluntario. Puede ser realmente útil cuando los legisladores avanzan despacio y los equipos de producto lanzan novedades rápidamente. MIT Technology Review también señaló que ocho empresas más firmaron después los compromisos de la Casa Blanca, y que una orden ejecutiva los amplió con el requisito de compartir con el gobierno de EE. UU. los resultados de pruebas de seguridad de nuevos modelos de IA si las pruebas muestran un riesgo para la seguridad nacional. Un parche puede corregir un error urgente, pero también te dice quién tiene acceso para confirmar cambios.

Cuando la coordinación suena a seguridad

El argumento optimista a favor de la autorregulación fue recogido por BBC Sounds, que informó que Sam Altman dijo que las empresas de IA como la suya eran capaces, en esencia, de regularse a sí mismas. Altman dijo: “Lo haremos bien, confío mucho en la capacidad de nuestra empresa y de la industria para hacerlo de forma segura”, y añadió que las empresas mantendrían “la alineación y la seguridad muy por delante de las capacidades” y que, si no podían hacerlo, “reducirían la velocidad o se detendrían”. Es una promesa poderosa porque presenta la coordinación como moderación y no como control.

Hay una versión seria de ese argumento. MLex informó en noviembre de 2024 que las empresas estadounidenses de IA dijeron que estaban trabajando para cumplir los compromisos voluntarios de seguridad asumidos con la Casa Blanca, incluido proporcionar información al gobierno y al público sobre sus tecnologías y riesgos. Para quienes construyen estos sistemas, ese tipo de coordinación puede crear expectativas compartidas sobre pruebas, divulgación y respuesta ante incidentes. El problema empieza cuando una norma de seguridad se convierte en una barrera de mercado, y las personas que ayudaron a definir esa barrera son también las mejor preparadas para atravesarla.

El mercado escondido dentro de la regla

MLex informó en septiembre de 2026 que las principales empresas de IA estaban impulsando estándares de seguridad liderados por la industria para la IA de frontera en la UE. Esa frase, liderados por la industria, está haciendo mucho trabajo. Puede significar que las personas más cercanas a los sistemas ayudan a los reguladores a entender un riesgo técnico que cambia rápidamente, o puede significar que las empresas más grandes convierten su propio modelo operativo en el modelo de cumplimiento por defecto.

WIRED informó que Anthropic apoyó la primera ola de leyes de seguridad para IA de frontera en Estados Unidos, incluidos requisitos de transparencia en California y Nueva York a los que gran parte de Silicon Valley se opuso con el argumento de que podrían frenar el auge de la IA. WIRED también informó que Anthropic ahora está empujando a los estados hacia regulaciones más estrictas, mientras afirma que la transparencia y la autodeclaración ya no son suficientes para los sistemas de IA más potentes. Eso convierte a Anthropic en un ejemplo inusualmente claro del rompecabezas moderno de la gobernanza de la IA: una empresa puede ser sincera respecto a la seguridad y aun así beneficiarse de reglas que rivales más pequeños pueden tener dificultades para cumplir. La gobernanza no es solo ética con traje; también es estrategia de salida al mercado con vocabulario de interés público.

Lo que quienes construyen deberían observar ahora

La pregunta incómoda no es si los líderes de IA creen lo que dicen. Algunos claramente lo creen, y los reportes de MIT Technology Review sugieren que los compromisos voluntarios han empujado a partes de la industria hacia mejores prácticas. La pregunta más precisa es si la coordinación crea rendición de cuentas independiente o si principalmente produce un club de empresas lo bastante grandes como para coordinarse. Si el estándar exige pruebas costosas, equipos legales especializados y acceso constante a los reguladores, la seguridad puede convertirse en un foso defensivo incluso cuando nadie lo llame así.

Para los líderes de producto, el movimiento práctico es separar los resultados de seguridad de la conveniencia institucional. Pregunten si las reglas propuestas publican suficiente información para que personas externas evalúen el cumplimiento, si las auditorías pueden ser realizadas por partes independientes y si los desarrolladores más pequeños tienen un camino creíble para alcanzar el mismo nivel. Para los inversores, observen si la regulación aumenta la confianza en la categoría o si simplemente reduce el campo a las empresas que ya cuentan con cómputo, distribución y relaciones de política pública. El próximo reglamento de la IA de frontera puede reducir el riesgo de verdad, pero también decidirá quién puede seguir construyendo; así que, cuando los laboratorios más grandes piden coordinarse, ¿estamos viendo cómo toma forma una infraestructura de seguridad, o cómo el mercado del futuro dibuja sus propias fronteras?