Armadilha da Inevitabilidade da IA: Wong sobre a AGI Predestinada

Tenho uma fraqueza por nomes de escritórios. Chame uma sala de “Finanças” e as pessoas se comportam de um jeito. Chame-a de “Moonshot” e as mesmas cadeiras, a mesma tela, o mesmo café requentado de repente parecem pedir promessas maiores. Em tecnologia, dar nomes nunca é só decoração. É um mapa do que uma empresa acredita que já está a caminho.

É por isso que o ensaio de Matteo Wong na The Atlantic sobre a inevitabilidade da IA causa mais impacto do que mais um argumento sobre se a inteligência artificial geral está próxima. A parte interessante não é a previsão. É a gramática. Em algum lugar entre roteiro de produto, discurso para investidores e mito cultural, uma decisão estratégica começa a se vestir como destino.

A sala onde o destino ganhou um nome

Na The Atlantic, Matteo Wong começa com uma cena da antiga sede da OpenAI que parece quase organizada demais para ser real. Ele escreve que o segundo andar tinha salas com nomes de grandes invenções, incluindo “Relógio”, “Fogo” e “AGI”, sigla em inglês para inteligência artificial geral. Wong diz que viu isso na primavera de 2024, enquanto entrevistava pesquisadores da OpenAI, em um momento em que o ChatGPT ainda cometia erros constrangedores de aritmética e a ideia de que o bot poderia rivalizar com a inteligência humana parecia duvidosa.

Esse contraste é a tese do ensaio em miniatura. O produto era falível, mas o prédio falava como se o destino já tivesse sido escolhido. Wong observa que a crença na AGI é fundamental para as missões da Google DeepMind, da OpenAI e da Anthropic, três das empresas de IA mais influentes do mundo. O perigo sutil não é a ambição. É o deslizamento da ambição para a predestinação.

A pergunta desconfortável é o que acontece quando a estrela-guia de uma empresa se torna uma lei da natureza no imaginário público. Se a AGI é apresentada como inevitável, então toda falha de produto pode parecer temporária, toda troca difícil pode parecer necessária, e toda pergunta cética pode soar como negação. Quem constrói produtos sabe que roteiros são feitos de restrições, planos de contratação, comportamento de modelos, acordos de distribuição e decisões de julgamento. A moldura da inevitabilidade faz essas escolhas parecerem clima.

Inevitabilidade é um roteiro com iluminação melhor

A reportagem anterior de Wong na The Atlantic sobre a Cluely mostra o mesmo padrão cultural por outro ângulo. Em “The AI Industry Is Radicalizing”, ele descreve Chungin “Roy” Lee, que, segundo Wong, usou IA para colar na escola e em entrevistas de estágio na Amazon e na Meta, recebeu ofertas de ambas e depois abandonou os estudos para fundar a Cluely. Wong relata que a Cluely vende a capacidade de “colar em tudo” e que concluiu uma rodada de captação de US$ 15 milhões liderada pela Andreessen Horowitz.

Esta não é a mesma história das salas de reunião da OpenAI, mas rima com ela. Wong escreve que Lee acredita que uma IA onisciente é inevitável e que bots em breve automatizarão todos os empregos. Uma vez aceita essa premissa, o vocabulário moral muda. “Colar” deixa de ser tanto uma violação das normas atuais e passa a ser uma adoção antecipada das normas futuras.

Essa é a lição prática para fundadores e líderes de produto. Narrativas não ficam educadamente ao lado da estratégia. Elas recrutam usuários, organizam equipes, atraem capital e decidem quais objeções contam como sérias. Se um produto é apresentado como uma prévia de um futuro inevitável, o mercado pode recompensar velocidade em vez de clareza. Se ele é apresentado como uma escolha entre muitos futuros possíveis, os usuários podem fazer perguntas melhores sobre adequação, risco e valor.

A era do conteúdo descartável mostra por que a história importa

“The Atlantic’s “Generative AI’s Slop Era” acrescenta outra camada à armadilha da inevitabilidade: a infraestrutura em torno da IA muitas vezes depende de instituições que não são inevitáveis de forma alguma. O texto diz que empresas como OpenAI, Perplexity e Google estão levando ao mercado ferramentas de busca com IA generativa. Também observa parcerias de mídia envolvendo a Perplexity e outras empresas de IA, e diz que a The Atlantic assinou um contrato com a OpenAI que pode mostrar seus artigos aos usuários do SearchGPT.

Esse detalhe importa porque sistemas de IA não flutuam acima da cultura. Eles a ingerem, resumem, reformatam e às vezes competem com os lugares que a produziram. O texto da The Atlantic cita a visão de que “o conteúdo de jornalistas é rico em fatos, conhecimento verificado, e essa é a função de utilidade que ele exerce para um motor de respostas de IA”. Se o trabalho do conhecimento passa a ser enquadrado principalmente como combustível para uma máquina destinada a existir, as pessoas que produzem esse conhecimento podem começar a parecer secundárias em relação ao sistema que o empacota.

Para quem constrói produtos, é aqui que a ética se torna operacional. A questão não é se buscas, assistentes ou agentes de IA estão chegando. Muitos já estão aqui. A questão é se as relações ao redor deles são desenhadas como parcerias, extrações, experimentos ou conclusões inevitáveis. A história da inevitabilidade pode esconder essas distinções exatamente quando elas precisam estar mais visíveis.

O aviso de Berlin para quem constrói

O arquivo da The Atlantic vem rondando esse problema há muito tempo. Em sua entrada de 1955, “Historical Inevitability”, a revista descreve a crítica de Isaiah Berlin a doutrinas que afirmam que a história é feita por forças além do controle individual. O texto diz que Berlin via, na raiz dessas doutrinas, um desejo de escapar do peso da responsabilidade humana, ao mesmo tempo em que defendia uma área limitada, mas real, de liberdade humana.

Esse é um enquadramento útil para a IA. Não porque fundadores estejam escrevendo tratados de filosofia em apresentações para investidores, mas porque a inevitabilidade é confortável. Ela permite que líderes digam que o mercado exigiu, que o modelo precisava de escala, que a concorrência forçou a decisão, que o futuro chegou mais cedo. Às vezes essas pressões são reais. Mas pressão não é destino.

As empresas de IA mais saudáveis provavelmente serão as que conseguirem sustentar duas ideias ao mesmo tempo. Primeiro, a tecnologia está avançando rápido o suficiente para recompensar a ambição. Segundo, velocidade não apaga a agência. Se você está construindo com IA, a lição do ensaio de Wong é auditar sua própria linguagem antes que o mercado faça isso por você. Você está descrevendo uma capacidade ou vendendo uma profecia? Está criando um roteiro ou pedindo que seus usuários aceitem um destino?