Reacción contra el contenido basura de IA: WIRED sobre etiquetas y prohibiciones en plataformas

He empezado a hacer un pequeño ritual forense antes de creer cualquier cosa que aparece en mi feed. Miro las manos, luego las sombras, luego el pie de foto, luego la cuenta y luego mi propia disposición a dejarme engañar. El gesto toma menos de un segundo, pero cambia el ánimo de desplazarse por la pantalla: de relajación a inspección. Internet no se volvió inutilizable porque las máquinas aprendieran a crear imágenes, videos y párrafos. Se volvió más extraño porque el viejo contrato social del feed —que una publicación venía de alguien con una razón para publicarla— de pronto parece negociable.

La reacción se convierte en una interfaz Reece Rogers, de

WIRED, le da a este cambio una escala humana útil: mientras revisaba la configuración de Instagram, Rogers intentó desactivar la función ya desaparecida de Meta que permitía a cualquiera crear deepfakes con IA del autor sin su consentimiento. Esa anécdota importa porque no trata solo de una configuración escondida en una aplicación. Es el momento en que una persona usuaria se da cuenta de que la han convertido en una posible entrada para la salida sintética de otra persona. El punto más amplio del artículo de WIRED es que las plataformas están reconociendo que la gente no quiere consumir basura de IA, y que cada vez más sitios y aplicaciones tienen herramientas y políticas para marcar, etiquetar y prohibir contenido generado por IA. Eso suena procedimental, casi aburrido, y precisamente por eso importa. La reacción se está convirtiendo en un requisito de producto. Si las personas usuarias no pueden saber si algo fue hecho por una persona, por un modelo o por alguna mezcla borrosa de ambos, dejan de confiar en la superficie del producto mismo. Este es el movimiento al que deberían prestar atención quienes crean productos. Las etiquetas no son pegatinas decorativas de cumplimiento. Son parte de la interfaz, como el ícono de candado en un navegador o una insignia de verificación junto a una figura pública. La pregunta ya no es si las plataformas pueden alojar medios generados por IA. La pregunta es si pueden hacer visibles la autoría, el consentimiento y la confianza en el momento en que una persona usuaria los necesita.

El problema de la boda falsa UChicago

CS News hace que el problema de la confianza sea dolorosamente concreto con el ejemplo de una publicación de Instagram que mostraba fotos falsas, generadas por IA, de la boda de Zendaya. Según el informe de la Universidad de Chicago, la foto falsa de la boda de Zendaya y Tom Holland recibió más de diez millones de “me gusta”, y muchas personas creyeron que era real. Eso no es un fracaso de la viralidad. Es la viralidad funcionando exactamente como fue diseñada. El artículo de UChicago se centra en Lan Gao, estudiante de doctorado de tercer año en el Departamento de Ciencias de la Computación de la Universidad de Chicago, quien estudia cómo las plataformas sociales gobiernan un ecosistema en línea cambiante. La pregunta en ese marco de investigación es simple e incómoda: cuando el contenido generado por IA se vuelve común, ¿cómo deberían gobernarlo las plataformas en línea para que las personas todavía puedan confiar en lo que ven y comparten? Una imagen falsa de la boda de una celebridad tiene poco riesgo en comparación con consejos de salud, imágenes de desastres o afirmaciones políticas. Pero muestra lo rápido que los medios sintéticos pueden tomar prestada la gramática emocional de la verdad. Aquí es donde la palabra basura puede confundirnos. Hace que el problema suene como contenido malo, cuando el asunto más profundo es el colapso del contexto. Una imagen falsa puede ser hermosa, inofensiva e incluso entretenida, hasta que circula sin la etiqueta que les dice a quienes la ven cómo sostenerla en la mente.

No toda la basura es el mismo desastre

NBC News informa que LinkedIn, Snap y otras plataformas están aumentando sus esfuerzos para controlar el contenido de IA de baja calidad y producido en masa, sin prohibir por completo la tecnología. Esa distinción es importante. La respuesta más saludable de una plataforma no es un rechazo total de las herramientas sintéticas, porque las personas ya las están usando para bromas, borradores, arte, accesibilidad, traducción y experimentación. La línea más útil está entre expresión y contaminación. Caiwei Chen, de MIT Technology Review, ofrece el contrapeso cultural al describir la basura de IA no solo como internet pudriéndose en tiempo real, sino como un primer borrador de un nuevo tipo de cultura pop. Esa es la parte que hace difícil la moderación. Algunos trabajos generados por IA son relleno spam. Otros son arte popular con un botón de renderizado. Algunos son engañosos, otros son juego etiquetado, y gran parte queda incómodamente entre categorías. El Reuters Institute plantea lo que está en juego para el periodismo y la esfera pública al describir la basura de IA como texto vago lleno de palabras de moda, ilustraciones de memes hechas con prisa o artículos en los que el tono o los hechos se sienten mal. Observa la ambigüedad en esa descripción. El peligro no siempre es una sola afirmación falsa. A veces es el reemplazo lento de la comunicación con propósito por una textura plausible.

Quienes construyen ahora son responsables de la procedencia El reportaje

de WIRED sobre Medium muestra por qué las plataformas no pueden tratar esto como un problema de moderación de nicho. WIRED pidió a Pangram Labs que analizara una muestra de 274.466 publicaciones recientes de Medium durante un período de seis semanas, y Pangram estimó que más del 47 por ciento probablemente habían sido generadas por IA. El director ejecutivo de Medium, Tony Stubblebine, y otros ejecutivos han descrito la plataforma como un hogar para la escritura humana, según WIRED, lo que hace que la estimación se sienta menos como un problema de contenido y más como un problema de identidad. La propia política de IA generativa de WIRED ofrece otra señal útil. La publicación dice que no publica historias con texto generado por IA, aunque permite que las herramientas de IA ayuden con tareas como transcripciones y resúmenes. Que todas las organizaciones tracen o no la misma línea es menos importante que la existencia de una línea que las personas usuarias puedan entender. Esa es la lección de diseño escondida dentro de la reacción contra la basura de IA. La confianza ya no es algo que una plataforma pueda afirmar en una página “Acerca de”. Tiene que expresarse en valores predeterminados, etiquetas, flujos de denuncia, sistemas de clasificación y políticas que las personas usuarias encuentren antes de que se les pida creer, compartir o actuar. Para lectores, creadores y equipos de producto, el próximo hábito útil quizá sea preguntar no solo qué puede generar una herramienta, sino qué contexto conserva. Si el feed se está volviendo sintético por defecto, ¿quién decide qué cuenta como lo suficientemente real para circular?