La trampa de la inevitabilidad de la IA: Wong sobre la AGI predestinada

Tengo debilidad por los nombres de oficinas. Llama a una sala “Finanzas” y la gente se comporta de una manera. Llámala “Moonshot” y las mismas sillas, la misma pantalla, el mismo café rancio de pronto parecen pedir promesas más grandes. En tecnología, poner nombres nunca es solo decoración. Es un mapa de lo que una empresa cree que ya viene en camino.

Por eso el ensayo de Matteo Wong en The Atlantic sobre la inevitabilidad de la IA llega con más fuerza que otro argumento sobre si la inteligencia artificial general está cerca. Lo interesante no es el pronóstico. Es la gramática. En algún punto entre la hoja de ruta del producto, el discurso para inversionistas y el mito cultural, una decisión estratégica empieza a vestirse de destino.

La sala donde el destino recibió un nombre

En The Atlantic, Matteo Wong comienza con una escena de la antigua sede de OpenAI que casi parece demasiado perfecta para ser real. Escribe que el segundo piso tenía salas con nombres de grandes inventos, entre ellos “Reloj”, “Fuego” e “IAG”, abreviatura de inteligencia artificial general. Wong dice que lo vio en la primavera de 2024 mientras entrevistaba a investigadores de OpenAI, en un momento en que ChatGPT todavía cometía errores aritméticos vergonzosos y la idea de que el bot pudiera rivalizar con la inteligencia humana parecía dudosa.

Ese contraste es la tesis del ensayo en miniatura. El producto era falible, pero el edificio hablaba como si el destino ya hubiera sido elegido. Wong señala que la creencia en la IAG es fundamental para las misiones de Google DeepMind, OpenAI y Anthropic, tres de las empresas de IA más influyentes del mundo. El peligro sutil no es la ambición. Es el deslizamiento de la ambición hacia la predestinación.

La pregunta incómoda es qué ocurre cuando la estrella del norte de una empresa se convierte en una ley de la naturaleza en la imaginación pública. Si la IAG se presenta como inevitable, entonces cada falla del producto puede parecer temporal, cada concesión puede parecer necesaria y cada pregunta escéptica puede sonar a negación. Quienes construyen saben que las hojas de ruta están hechas de restricciones, planes de contratación, comportamiento de los modelos, acuerdos de distribución y decisiones de criterio. El marco de la inevitabilidad hace que esas elecciones parezcan el clima.

La inevitabilidad es una hoja de ruta con mejor iluminación

Los reportajes anteriores de Wong en The Atlantic sobre Cluely muestran el mismo patrón cultural desde otro ángulo. En “The AI Industry Is Radicalizing”, describe a Chungin “Roy” Lee, quien, según Wong, usó IA para hacer trampa en la escuela y en entrevistas de prácticas en Amazon y Meta, recibió ofertas de ambas empresas y luego abandonó los estudios para fundar Cluely. Wong informa que Cluely promociona la capacidad de “hacer trampa en todo” y que completó una ronda de financiación de 15 millones de dólares liderada por Andreessen Horowitz.

No es la misma historia que las salas de conferencias de OpenAI, pero rima con ella. Wong escribe que Lee cree que la IA omnisciente es inevitable y que los bots pronto automatizarán todos los trabajos. Una vez que se acepta esa premisa, el vocabulario moral cambia. “Hacer trampa” pasa a ser menos una violación de las normas actuales que una adopción temprana de las normas futuras.

Esa es la lección práctica para fundadores y líderes de producto. Las narrativas no se sientan educadamente al lado de la estrategia. Reclutan usuarios, organizan equipos, atraen capital y deciden qué objeciones cuentan como serias. Si un producto se presenta como un adelanto de un futuro inevitable, el mercado puede premiar la velocidad por encima de la claridad. Si se presenta como una elección entre muchos futuros posibles, los usuarios pueden hacer mejores preguntas sobre ajuste, riesgo y valor.

La era del contenido basura muestra por qué importa la historia

“The Generative AI’s Slop Era” de The Atlantic añade otra capa a la trampa de la inevitabilidad: la infraestructura alrededor de la IA a menudo depende de instituciones que no son inevitables en absoluto. El artículo dice que empresas como OpenAI, Perplexity y Google están llevando al mercado herramientas de búsqueda con IA generativa. También menciona alianzas con medios que involucran a Perplexity y otras firmas de IA, y dice que The Atlantic firmó un contrato con OpenAI que puede mostrar sus artículos a usuarios de SearchGPT.

Ese detalle importa porque los sistemas de IA no flotan por encima de la cultura. La ingieren, la resumen, la reformatean y a veces compiten con los lugares que la produjeron. El artículo de The Atlantic cita la idea de que “el contenido de los periodistas es rico en hechos, conocimiento verificado, y esa es la función de utilidad que cumple para un motor de respuestas de IA”. Si el trabajo del conocimiento se enmarca principalmente como combustible para una máquina destinada a existir, las personas que producen ese conocimiento pueden empezar a parecer secundarias frente al sistema que lo empaqueta.

Para quienes construyen, aquí es donde la ética se vuelve operativa. La pregunta no es si vienen la búsqueda con IA, los asistentes o los agentes. Muchos ya están aquí. La pregunta es si las relaciones que los rodean están diseñadas como alianzas, extracciones, experimentos o conclusiones inevitables. La historia de la inevitabilidad puede ocultar esas diferencias justo cuando necesitan ser más visibles.

La advertencia de Berlin para quienes construyen

El archivo de The Atlantic lleva mucho tiempo dando vueltas alrededor de este problema. En su entrada de 1955 “Historical Inevitability”, la revista describe la crítica de Isaiah Berlin a las doctrinas que afirman que la historia está hecha por fuerzas más allá del control individual. El texto dice que Berlin veía, en la raíz de esas doctrinas, un deseo de escapar de la carga de la responsabilidad humana, mientras defendía un área limitada pero real de libertad humana.

Es un marco útil para la IA. No porque los fundadores estén escribiendo tratados de filosofía en secreto dentro de sus presentaciones para inversionistas, sino porque la inevitabilidad es reconfortante. Permite a los líderes decir que el mercado lo exigió, que el modelo necesitaba escala, que la competencia les forzó la mano, que el futuro llegó antes de tiempo. A veces esas presiones son reales. Pero la presión no es destino.

Las empresas de IA más saludables probablemente serán las que puedan sostener dos ideas a la vez. Primero, la tecnología avanza lo suficientemente rápido como para recompensar la ambición. Segundo, la velocidad no borra la capacidad de actuar. Si estás construyendo con IA, la lección del ensayo de Wong es auditar tu propio lenguaje antes de que el mercado lo haga por ti. ¿Estás describiendo una capacidad o vendiendo una profecía? ¿Estás haciendo una hoja de ruta o pidiendo a tus usuarios que acepten un destino?