Kelelahan Pengungkapan AI: Analisis UX 2 Agustus

Label AI pada iklan bisa membantu. Label AI pada setiap iklan, rekomendasi, bantuan kalender, dan interaksi dukungan bisa berubah menjadi wallpaper. Istilah berguna dari WIRED untuk masalah ini adalah kelelahan pengungkapan, yaitu saat sebuah pemberitahuan wajib ada secara hukum tetapi berhenti bekerja secara perilaku. EU AI Act tidak meminta pengguna mengagumi banner kepatuhan Anda. Aturan itu meminta mereka memahami kapan AI ada di dalam ruangan.

Apa yang sebenarnya diminta pada 2 Agustus

WIRED melaporkan bahwa, mulai 2 Agustus, orang-orang di Uni Eropa harus diberi tahu ketika mereka berinteraksi dengan sistem AI atau melihat konten yang dibuat atau diubah oleh teknologi tersebut. Laporan WIRED yang sama memberikan daftar sehari-hari: iklan, rekomendasi musik, aplikasi pengelolaan kalender, dan hotline pengaduan, jika menggunakan AI, perlu memberi tahu warga Eropa. Itulah titik yang membuat aturan ini canggung secara operasional. AI tidak terbatas pada satu jendela chatbot dengan label rapi di bagian atas.

Dalam kewajiban yang sederhana, ini berarti tim produk membutuhkan dua inventaris, bukan satu. Pertama, daftarkan tempat-tempat di mana pengguna berinteraksi dengan sistem AI, seperti chatbot atau hotline berbasis AI. Kedua, daftarkan tempat-tempat di mana pengguna melihat konten yang dibuat AI atau diedit AI, seperti iklan deepfake atau unggahan sosial perusahaan yang telah diubah. Jika pengguna yang sama melewati empat permukaan seperti itu dalam satu sesi, hukum tidak secara ajaib menyelesaikan masalah UX. Hukum hanya membuat masalah itu terlihat.

Mengapa kelelahan adalah bug kepatuhan

The Tech Buzz menggambarkan risikonya dengan jelas: notifikasi yang terus-menerus dapat membuat pengguna kebal terhadap peringatan yang dimaksudkan untuk melindungi mereka. Media itu juga mencatat bahwa penyedia perangkat lunak perusahaan menghadapi tantangan kepatuhan yang besar karena AI diam-diam telah menggerakkan aplikasi, feed konten, dan interaksi layanan pelanggan. Itu bukan alasan untuk melewatkan pengungkapan. Itu adalah alasan untuk berhenti memperlakukan pengungkapan sebagai teks standar dekoratif.

WIRED mengutip Frederiek Fernhout, seorang pengacara teknologi di Stibbe, yang mengatakan, "Jika sebuah penyedia benar-benar patuh terhadap kewajiban transparansi, akan menjadi sangat terlihat seberapa banyak AI digunakan." Ia menambahkan, "Terutama dalam pemasaran." Bacalah itu sebagai peringatan produk, bukan hanya peringatan hukum. Jika setiap aset kampanye, skrip dukungan, dan modul rekomendasi menghasilkan label samar yang sama, pengguna akan belajar satu hal: abaikan label itu.

Pekerjaan produk yang tersembunyi di dalam pemberitahuan

Versi laporan WIRED dari Winzheng menggambarkan perjalanan pengguna dengan lugas: layanan pelanggan online mungkin tidak memiliki orang sungguhan di ujung lain, video pidato politik bisa jadi deepfake, dan bahkan sebuah artikel mungkin telah dibuat dengan bantuan AI. Itu adalah risiko yang berbeda-beda. Pemberitahuan hotline pengaduan memberi tahu seseorang siapa, atau apa, yang menangani masalah mereka. Label deepfake memberi tahu penonton agar tidak memperlakukan rekaman sebagai bukti biasa. Kalimat umum yang mengatakan bahwa AI terlibat tidak melakukan kedua tugas itu dengan terlalu baik.

Hukum mewajibkan pengungkapan, bukan spam modal. Para pembuat harus merancang pemberitahuan berdasarkan keputusan pengguna pada saat itu: melanjutkan chat, memercayai media, mengandalkan rekomendasi, atau mencari saluran manusia. Itu berarti label yang berguna berada dekat dengan interaksi AI, spesifik tentang apa yang dilakukan AI, dan cukup tahan lama untuk terlihat setelah layar pertama. Pengacara privasi Anda mungkin menerima kalimat yang patuh. Pengguna Anda mungkin tidak menyadarinya, yang merupakan kegagalan berbeda dengan hasil praktis yang sama.

Apa yang perlu diperhatikan setelah label hadir

WIRED mengatakan aturan transparansi EU AI Act dimaksudkan untuk mengurangi penipuan dan manipulasi serta membantu orang membuat pilihan yang terinformasi. Niat itu akan diuji dalam antarmuka biasa, bukan pidato kebijakan. Pertanyaan menarik setelah 2 Agustus adalah apakah perusahaan mengukur apakah pengguna memahami pemberitahuan, atau hanya apakah sebuah label pernah ada di suatu tempat dalam alur.

Tangkapan layar kepatuhan berguna untuk audit. Tangkapan layar itu kurang berguna bagi manusia yang mencoba memutuskan apakah sebuah suara, gambar, jawaban, atau rekomendasi layak dipercaya. Bagi para pembuat, item pekerjaan berikutnya tidak glamor tetapi perlu: petakan titik sentuh AI, klasifikasikan jenis pemberitahuan, dan hapus bahasa duplikat yang melatih orang untuk berhenti membaca. Bagi pelajar dan pengguna, bersiaplah menemukan seberapa banyak otomatisasi telah hadir dalam kehidupan digital rutin. Aturan ini membuat otomatisasi itu lebih sulit disembunyikan. Apakah otomatisasi itu menjadi lebih mudah dipahami kini menjadi masalah desain, yaitu tempat banyak program kepatuhan diam-diam belajar rendah hati.