Analisis Peringatan Bias AI FTC: Perbaikan Bias Bisa Melanggar Hukum

Rapat kepatuhan yang paling canggung adalah rapat ketika semua orang sepakat bahwa kontrol tersebut dibuat dengan niat baik, lalu pengacara bertanya apa yang sebenarnya dilakukan kontrol itu terhadap pengguna. Mitigasi bias AI telah mendapatkan kilau seperti label kebajikan, yang praktis untuk slide presentasi dan kurang praktis untuk hukum konsumen. Menurut Reuters, Federal Trade Commission mengatakan pada hari Rabu bahwa perusahaan AI yang chatbot-nya menghasilkan respons yang mencerminkan "tujuan ideologis" dapat melanggar hukum federal, sebagai bagian dari kebijakan yang diusulkan tentang bagaimana lembaga tersebut akan menerapkan kewenangannya pada sektor ini. Secara terpisah, Forth menampilkan item FTC tersebut sebagai permintaan komentar publik atas pernyataan kebijakan yang membahas akurasi AI. Terjemahannya: FTC tidak mengatakan bahwa kerja pengurangan bias dilarang. FTC mengatakan bahwa sebuah perlindungan tetap bisa menjadi masalah hukum konsumen jika perlindungan itu mendistorsi keluaran, menyesatkan pengguna, atau dijual dengan tingkat keyakinan yang lebih tinggi daripada kinerjanya.

Apa yang sebenarnya diubah oleh peringatan FTC

Reuters melaporkan bahwa FTC membingkai isu ini seputar perusahaan AI dan respons chatbot, yang menjadikannya kewajiban produk, bukan sekadar topik komite etika. Jika sebuah lapisan model, aturan penolakan, aturan pemeringkatan, pembungkus prompt, atau sistem moderasi mendorong jawaban ke arah tujuan yang tidak diungkapkan, pertanyaan hukumnya bukan apakah tim menyebutnya keselamatan. Pertanyaannya adalah apakah konsumen menerima apa yang dijanjikan kepada mereka, dan apakah sistem tersebut menyebabkan kerugian yang dapat dihindari menurut teori perlindungan konsumen FTC.

Item umpan FTC dari Forth menggambarkan tindakan lembaga tersebut sebagai proses komentar publik tentang akurasi AI, jadi para pembuat sebaiknya memperlakukannya sebagai kebijakan yang diusulkan, bukan tenggat operasional baru dengan tanggal kepatuhan yang jelas. Perbedaan itu penting. Kebijakan yang diusulkan tidak menulis ulang peta jalan produk dalam semalam, tetapi kebijakan itu memberi tahu penggugat, regulator negara bagian, pembeli perusahaan, dan penasihat hukum Anda sendiri apa yang sedang diperhatikan lembaga tersebut. Langkah yang berguna adalah menginventarisasi perlindungan sekarang, sebelum halaman pemasaran dan perilaku model mulai menceritakan kisah yang berbeda.

Kait hukum ini bukan hal baru

Analisis Holland and Knight tentang pengawasan AI oleh FTC mengatakan bahwa lembaga tersebut memiliki yurisdiksi atas praktik bisnis yang menipu dan tidak adil, dan bahwa FTC mempertahankan prinsip yang sama berlaku untuk produk teknologi modern. Itu bagian yang kering, yang biasanya justru bagian penting. FTC tidak memerlukan undang-undang khusus AI untuk bertanya apakah sebuah perusahaan melebih-lebihkan akurasi, menyembunyikan batasan material, atau menerapkan sistem yang dapat diperkirakan akan merugikan konsumen.

Di sinilah cerita rakyat kepatuhan LinkedIn biasanya mulai melenceng. Hukum tidak mengatakan bahwa apa pun yang diberi label mitigasi bias secara otomatis aman. Hukum juga tidak mengatakan bahwa setiap upaya untuk mengurangi keluaran berbahaya patut dicurigai. Kewajibannya lebih sempit dan lebih merepotkan: ketahui apa yang dilakukan kontrol tersebut, uji apakah kontrol itu benar-benar melakukannya, hindari klaim yang tidak dapat Anda buktikan, dan ungkapkan batasan material ketika pengguna secara wajar akan peduli.

Bagi pembuat, itu berarti artefak kepatuhannya bukan poster tentang AI yang bertanggung jawab. Artefaknya adalah log perubahan untuk perlindungan, hasil evaluasi sebelum dan sesudah penerapan, catatan persetujuan yang menunjukkan siapa yang menerima trade-off, dan bahasa yang dihadapkan kepada pengguna yang sesuai dengan perilaku sistem. Jika sebuah chatbot dipasarkan sebagai netral, akurat, atau dipersonalisasi, kata-kata itu perlu didukung bukti. Jika produk secara sengaja membentuk jawaban demi alasan keselamatan, akurasi, atau kebijakan, tim harus dapat menjelaskan batasannya tanpa berpura-pura bahwa batasan itu tidak ada.

Alat bias dapat menciptakan risiko konsumen mereka sendiri

FTC telah mengitari masalah ini selama bertahun-tahun, bukan karena AI itu ajaib, melainkan karena otomatisasi membuat kesalahan dapat berulang dalam skala besar. Dalam siaran pers tahun 2022, FTC menggambarkan sebuah laporan yang memperingatkan tentang penggunaan kecerdasan buatan untuk memerangi masalah daring. Pelajarannya dapat diterapkan dengan rapi: menggunakan AI untuk memperbaiki masalah platform tidak membebaskan perbaikan itu dari pengawasan.

Perlindungan bias dapat gagal dengan beberapa cara biasa. Perlindungan itu dapat mengoreksi secara berlebihan dan menolak informasi yang berguna bagi sebagian pengguna. Perlindungan itu dapat berkinerja buruk sementara perusahaan mengklaim perlindungan tersebut membuat sistem lebih adil atau lebih akurat. Perlindungan itu dapat memasukkan prioritas editorial yang tidak diungkapkan ke dalam produk yang dijual sebagai objektif. Semua itu tidak memerlukan tokoh jahat. Yang diperlukan hanyalah rantai pengadaan, catatan rilis yang tidak dibaca siapa pun dengan saksama, dan dasbor yang mengukur tingkat penolakan model tetapi tidak mengukur pemahaman konsumen.

Ini juga masalah kontrak vendor. Jika pihak ketiga menyediakan model, lapisan moderasi, rangkaian evaluasi, atau filter keselamatan, kontrak harus mengidentifikasi siapa yang menentukan tujuan mitigasi, siapa yang dapat mengubahnya, siapa yang menerima hasil pengujian, dan siapa yang bertanggung jawab ketika klaim produk bergeser menjauh dari perilaku. Judul artikel dan panel konferensi dapat menyebutnya tata kelola. FTC kemungkinan besar akan meminta bukti.

Apa yang sebaiknya dilakukan tim AI selanjutnya

Uraian Reuters tentang kebijakan FTC yang diusulkan memberi tim AI garis pemisah praktis: pisahkan persyaratan hukum dari pencitraan moral. Sebuah perusahaan dapat memutuskan bahwa mereka menginginkan perlindungan untuk bias, akurasi, keselamatan, atau kepercayaan pengguna. Baik. Namun begitu perlindungan itu memengaruhi apa yang dilihat konsumen, kontrol tersebut memerlukan tinjauan yang sama seperti klaim harga, pemberitahuan privasi, dan salinan iklan.

Ringkasan Holland and Knight tentang kewenangan FTC menunjuk pada tiga alur kerja yang seharusnya berjalan bersama. Bagian hukum meninjau apakah klaim bersifat menipu atau praktiknya tidak adil. Bagian produk meninjau bagaimana perlindungan mengubah keluaran bagi pengguna nyata. Bagian UX meninjau apakah pengungkapan dapat dipahami pada titik ketika pengguna mengandalkan jawaban. Jika tim-tim itu tidak berada di ruangan yang sama, perusahaan tidak sedang melakukan tata kelola AI. Perusahaan hanya melakukan penyimpanan dokumen dengan font yang lebih bagus.

Hal yang perlu dipantau dalam waktu dekat adalah sikap akhir FTC setelah komentar publik, sebagaimana dicatat oleh ringkasan Forth tentang proses pernyataan kebijakan tersebut. Sampai saat itu, aturan praktisnya cukup sederhana: mitigasi bias adalah sebuah kontrol, bukan lingkaran cahaya. Para pembuat harus mengujinya, mendokumentasikannya, menjelaskannya secara akurat, dan membuat vendor berkomitmen pada disiplin yang sama. Itu tidak akan membuat setiap jawaban chatbot menjadi sempurna. Itu akan membuat berkas kepatuhan tidak terlalu memalukan ketika seseorang bertanya mengapa perlindungan tersebut melakukan sesuatu yang tidak pernah diiklankan oleh tim produk.