Analisis Gambar Meta Muse: Persetujuan Sebelum Diluncurkan

Kesalahan produk ini muat dalam satu kotak prompt. Meta menawarkan jalan pintas kreatif, lalu belajar bahwa konten publik tidak sama dengan konten yang memiliki izin ketika hasilnya terlihat personal. Bagi para pendiri, Muse Image bukanlah skandal untuk ditonton, melainkan bedah produk yang jelas: lapisan input merusak ekspektasi pengguna sebelum fitur itu sempat membuktikan kegunaannya.

Apa yang Meta luncurkan, menurut BBC dan Mashable

BBC melaporkan bahwa Muse Image adalah bagian dari peluncuran pembuatan gambar Meta AI yang lebih luas dan memungkinkan pengguna menandai akun Instagram publik untuk membuat konten yang dihasilkan AI atau diubah dari materi di akun-akun tersebut. Mashable menggambarkan fitur ini sebagai bagian dari rangkaian alat AI yang dapat memperbaiki, mengubah, atau menambahkan efek 3D ke foto baru, sementara Muse Image melangkah lebih jauh dengan menggunakan foto dari akun Instagram publik sebagai bahan referensi. Itu setara dengan produk yang menempatkan dapur komersial di dalam open house milik orang lain: secara teknis dapat diakses, tetapi secara sosial sarat makna. WBAL-TV melaporkan bahwa siapa pun dapat merujuk akun Instagram publik dalam prompt untuk menghasilkan gambar yang terinspirasi dari foto, gaya, atau penampilan seseorang, dan bahwa pengguna tidak akan diberi tahu jika seseorang membuat konten AI berdasarkan profil mereka. Mashable dan WBAL-TV juga melaporkan bahwa fitur ini diaktifkan secara default, dengan pengguna perlu membuat akun menjadi privat atau menemukan pengaturan yang relevan untuk keluar dari fitur tersebut. Pilihan default itulah yang menjadi titik tumpu seluruh cerita. Urutan peluncurannya juga penting karena produk AI semakin sering dinilai dari kasus penggunaan aneh pertama, bukan dari tujuan awalnya. BBC melaporkan bahwa Meta mengatakan fitur tersebut terbatas pada Instagram saat diumumkan, dengan lebih banyak fitur dan integrasi AI direncanakan untuk WhatsApp, Facebook, dan Messenger. Jika model kontrol terasa goyah pada langkah Instagram, setiap permukaan yang direncanakan mewarisi utang kepercayaan itu.

Risiko produk yang sebenarnya, menurut The Guardian dan WBAL-TV The

Guardian melaporkan bahwa Meta dikritik karena fitur yang diluncurkan pada Selasa yang secara otomatis memungkinkan pengguna menghasilkan gambar menggunakan konten dari akun Instagram publik, dengan kekhawatiran privasi termasuk kritik dari serikat pekerja Hollywood. Kata secara otomatis itu punya bobot besar. Dalam desain produk konsumen, default bukan detail administratif; default adalah pusat gravitasi moral produk. WBAL-TV melaporkan bahwa Muse Image dirancang sebagai asisten kreatif yang berakar pada dunia pengguna, tetapi fitur tersebut juga memungkinkan prompt berdasarkan profil publik tanpa memberi tahu pengguna yang dirujuk. Itu menciptakan ketidaksesuaian antara model mental kreator dan model data pembuat produk. Seorang kreator mungkin memahami bahwa unggahan publik dapat dilihat, dibagikan, atau disematkan, tetapi tidak mengharapkannya menjadi aset referensi untuk gambar yang dihasilkan orang lain. Efek tingkat keduanya mudah diprediksi. Begitu pengguna percaya bahwa unggahan publik diam-diam meluas menjadi penggunaan ulang AI, mereka akan lebih jarang memposting secara bebas, mengubah akun menjadi privat, atau memperlakukan platform seperti panggung dengan kamera tersembunyi. Itu buruk bagi pasokan konten yang membuat Instagram bernilai sejak awal.

Penarikan kembali, menurut Mashable dan BBC

Mashable melaporkan bahwa Meta mengumumkan pada Jumat bahwa perusahaan akan menghentikan fitur tersebut, mengutip pernyataan perusahaan: "Niat kami adalah menyediakan alat kreatif yang berguna dan memberi orang kendali atas apakah konten publik mereka dapat dirujuk dengan cara ini. Kami telah mendengar masukan bahwa fitur ini meleset dari sasaran, jadi fitur ini tidak lagi tersedia." BBC juga melaporkan bahwa Meta mengakui fitur tersebut meleset dari sasaran dan tidak lagi tersedia. Itu bukan sekadar pembersihan reputasi; itu adalah tim produk yang menemukan bahwa arsitektur izin belum siap diluncurkan. Pelajaran yang berguna bukanlah bahwa platform harus menghindari alat gambar generatif. Pelajarannya adalah bahwa persetujuan harus dirancang sebagai permukaan kelas utama, bukan dikubur seperti alur pembatalan langganan di mana setiap lorong mengarah kembali ke halaman harga. Jika sebuah fitur bergantung pada konten buatan pengguna, daftar periksa peluncuran perlu mencakup siapa yang dirujuk, siapa yang diberi tahu, siapa yang bisa ikut serta, siapa yang bisa keluar, dan apa yang terjadi ketika seseorang menjadi input produk.

Langkah logis berikutnya, menurut BBC dan The Guardian

BBC melaporkan bahwa Meta juga memiliki alat video AI yang sedang dikembangkan, yang membuat penarikan Muse Image lebih dari sekadar koreksi satu fitur. Video menaikkan taruhannya karena kemiripan, gaya, dan konteks menjadi lebih sulit dipisahkan. Jika Meta menginginkan partisipasi kreator dalam skala besar, versi berikutnya membutuhkan kontrol yang terlihat sebelum ketersediaan luas, bukan proyek arkeologi pengaturan setelah pengguna mengeluh. The Guardian melaporkan bahwa niat yang dinyatakan Meta adalah menyediakan alat kreatif yang berguna dan memberi orang kendali atas apakah konten publik mereka dapat dirujuk. Jalur strategisnya ada di dalam kalimat itu: buat kontrol terlihat jelas, buat perujukan mudah dipahami, dan jadikan persetujuan bagian dari alur kreasi. Bagi para pembuat produk, intinya cukup sederhana untuk ditempel di atas papan roadmap: data publik dapat menggerakkan sebuah fitur, tetapi kepercayaanlah yang menentukan apakah fitur itu boleh tetap diluncurkan.