Reaksi Balik terhadap Konten AI Asal-asalan: WIRED tentang Label dan Larangan Platform

Saya mulai melakukan ritual forensik kecil sebelum memercayai apa pun di feed saya. Saya melihat tangannya, lalu bayangannya, lalu keterangannya, lalu akunnya, lalu kesediaan saya sendiri untuk tertipu. Gerakan ini memakan waktu kurang dari satu detik, tetapi mengubah suasana menggulir layar dari santai menjadi memeriksa. Internet tidak menjadi tidak bisa digunakan karena mesin belajar membuat gambar, video, dan paragraf. Internet menjadi lebih aneh karena kontrak sosial lama dalam feed, bahwa sebuah unggahan berasal dari seseorang yang punya alasan untuk mengunggahnya, tiba-tiba terasa bisa dinegosiasikan.

Penolakan balik menjadi antarmuka

Reece Rogers dari WIRED memberi perubahan ini skala manusia yang berguna: saat menggali pengaturan Instagram, Rogers mencoba menonaktifkan fitur Meta yang kini sudah dihentikan, yang memungkinkan siapa pun membuat deepfake AI dari sang penulis tanpa persetujuan. Anekdot itu penting karena ini bukan hanya soal satu pengaturan yang terkubur di satu aplikasi. Ini adalah momen ketika pengguna menyadari bahwa mereka telah diubah menjadi calon masukan untuk keluaran sintetis orang lain.

Poin yang lebih besar dalam artikel WIRED adalah bahwa platform mulai menyadari orang tidak ingin mengonsumsi AI slop, dan bahwa semakin banyak situs serta aplikasi kini memiliki alat dan kebijakan untuk menandai, memberi label, dan melarang konten yang dibuat AI. Itu terdengar prosedural, hampir membosankan, dan justru itulah mengapa hal itu penting. Penolakan balik sedang menjadi persyaratan produk.

Jika pengguna tidak dapat mengetahui apakah sesuatu dibuat oleh seseorang, model, atau campuran kabur dari keduanya, mereka berhenti memercayai permukaan produk itu sendiri. Inilah pergeseran yang perlu diperhatikan para pembangun. Label bukan stiker kepatuhan dekoratif. Label adalah bagian dari antarmuka, seperti ikon gembok di peramban atau lencana terverifikasi di sebelah tokoh publik. Pertanyaannya bukan lagi apakah platform dapat menampung media yang dibuat AI. Pertanyaannya adalah apakah mereka dapat membuat kepenulisan, persetujuan, dan keyakinan terlihat pada saat pengguna membutuhkannya.

Masalah pernikahan palsu

UChicago CS News membuat masalah kepercayaan ini terasa sangat konkret melalui contoh unggahan Instagram yang menampilkan foto-foto palsu, buatan AI, dari pernikahan Zendaya. Menurut laporan University of Chicago, foto pernikahan palsu Zendaya dan Tom Holland menerima lebih dari sepuluh juta suka, dan banyak orang percaya bahwa foto itu nyata.

Itu bukan kegagalan viralitas. Itu adalah viralitas yang bekerja persis sesuai rancangan. Artikel UChicago berpusat pada Lan Gao, mahasiswa PhD tahun ketiga di Departemen Ilmu Komputer University of Chicago, yang meneliti bagaimana platform sosial mengatur ekosistem online yang berubah. Pertanyaan dalam kerangka penelitian itu sederhana dan tidak nyaman: ketika konten buatan AI menjadi umum, bagaimana platform online harus mengaturnya agar orang masih bisa memercayai apa yang mereka lihat dan bagikan?

Gambar pernikahan selebritas palsu berisiko rendah dibandingkan nasihat kesehatan, rekaman bencana, atau klaim politik. Namun gambar itu menunjukkan betapa cepat media sintetis dapat meminjam tata bahasa emosional dari kebenaran. Di sinilah kata slop bisa menyesatkan kita. Kata itu membuat masalah terdengar seperti konten buruk, padahal persoalan yang lebih dalam adalah runtuhnya konteks. Sebuah gambar palsu bisa indah, tidak berbahaya, bahkan menghibur, sampai gambar itu menyebar tanpa label yang memberi tahu penonton bagaimana menempatkannya dalam pikiran mereka.

Tidak semua slop adalah kekacauan yang sama

NBC News melaporkan bahwa LinkedIn, Snap, dan platform lain meningkatkan upaya untuk mengendalikan konten AI berkualitas rendah dan diproduksi massal tanpa melarang teknologinya sepenuhnya. Pembedaan itu penting. Respons platform yang paling sehat bukanlah penolakan menyeluruh terhadap alat sintetis, karena orang sudah menggunakannya untuk lelucon, draf, seni, aksesibilitas, terjemahan, dan eksperimen. Garis yang lebih berguna adalah antara ekspresi dan polusi.

Caiwei Chen dari MIT Technology Review menawarkan penyeimbang budaya, dengan menggambarkan AI slop bukan hanya sebagai internet yang membusuk secara langsung, tetapi sebagai draf awal dari jenis budaya pop baru. Itulah bagian yang membuat moderasi sulit. Sebagian karya buatan AI adalah pengisi spam. Sebagian adalah seni rakyat dengan tombol render. Sebagian menipu, sebagian adalah permainan yang diberi label, dan banyak di antaranya berada dengan canggung di antara kategori-kategori itu.

Reuters Institute membingkai taruhannya bagi jurnalisme dan ruang publik dengan menggambarkan AI slop sebagai teks samar yang dipenuhi kata kunci populer, ilustrasi meme yang dibuat tergesa-gesa, atau artikel yang nada atau faktanya terasa keliru. Perhatikan ambiguitas dalam deskripsi itu. Bahayanya tidak selalu berupa satu klaim palsu. Terkadang bahayanya adalah penggantian perlahan komunikasi yang bertujuan dengan tekstur yang terdengar masuk akal.

Para pembangun kini bertanggung jawab atas asal-usul

Pelaporan WIRED tentang Medium menunjukkan mengapa platform tidak bisa memperlakukan ini sebagai masalah moderasi khusus. WIRED meminta Pangram Labs menganalisis sampel 274.466 unggahan Medium terbaru selama periode enam minggu, dan Pangram memperkirakan bahwa lebih dari 47 persen kemungkinan dibuat AI. CEO Medium Tony Stubblebine dan para eksekutif lain menggambarkan platform itu sebagai rumah bagi tulisan manusia, menurut WIRED, yang membuat perkiraan tersebut terasa kurang seperti masalah konten dan lebih seperti masalah identitas.

Kebijakan AI generatif WIRED sendiri menawarkan sinyal berguna lainnya. Publikasi itu mengatakan tidak menerbitkan cerita dengan teks yang dihasilkan AI, sambil tetap mengizinkan bahwa alat AI dapat membantu tugas seperti transkrip dan ringkasan. Apakah setiap organisasi menarik garis yang sama tidak sepenting keberadaan garis yang dapat dipahami pengguna.

Itulah pelajaran desain yang tersembunyi di dalam penolakan balik terhadap AI slop. Kepercayaan bukan lagi sesuatu yang dapat diklaim platform di halaman tentang kami. Kepercayaan harus diekspresikan dalam pengaturan bawaan, label, alur pelaporan, sistem pemeringkatan, dan kebijakan yang ditemui pengguna sebelum mereka diminta untuk percaya, membagikan, atau bertindak. Bagi pembaca, kreator, dan tim produk, kebiasaan berguna berikutnya mungkin adalah bertanya bukan hanya apa yang dapat dihasilkan sebuah alat, tetapi konteks apa yang dipertahankannya. Jika feed menjadi sintetis secara bawaan, siapa yang boleh memutuskan apa yang cukup nyata untuk ikut menyebar?