Perlindungan Bias AI Dapat Menimbulkan Risiko Hukum FTC: Analisis

Pertanyaan kepatuhan yang terasa canggung kini bukan lagi hanya apakah sebuah sistem AI bias. Pertanyaannya adalah apakah filter, aturan prompt, lapisan keamanan, atau pengaturan fairness yang dijual sebagai solusi bias justru menciptakan masalah perlindungan konsumen tersendiri. Itu seperti mandi air dingin yang lebih keras daripada presentasi fairness biasanya, dan mungkin lebih berguna. Reuters melaporkan bahwa Federal Trade Commission mengatakan perusahaan AI yang chatbot-nya menghasilkan respons yang mencerminkan “tujuan ideologis” dapat melanggar hukum federal, sebagai bagian dari kebijakan yang diusulkan tentang bagaimana lembaga tersebut akan menerapkan kewenangannya pada sektor ini. Forth, yang juga mengangkat item FTC, mengidentifikasi tindakan lembaga itu sebagai permintaan komentar publik atas pernyataan kebijakan yang membahas akurasi AI. Terjemahannya: fitur mitigasi bukan lencana kebajikan. Itu adalah klaim produk, dan klaim produk membutuhkan bukti.

Usulan ini mengubah pengaman menjadi klaim

Menurut Reuters, peringatan tersebut menyangkut perusahaan AI dan chatbot, bukan perdebatan abstrak tentang apakah model harus netral di ruang seminar. Kait hukum konsumen di sini praktis: jika respons chatbot mencerminkan “tujuan ideologis,” FTC mengatakan hal itu dapat bertentangan dengan hukum federal berdasarkan kebijakan yang diusulkan. Ini menempatkan risiko di posisi yang tidak nyaman bagi para pembangun, karena perilaku yang dipersoalkan mungkin berasal dari lapisan yang justru dimaksudkan untuk membuat sistem lebih aman atau kurang bias.

Ringkasan Forth penting karena membingkai item FTC sebagai pernyataan kebijakan yang membahas akurasi AI dan permintaan komentar publik. Artinya, posisi saat ini adalah kebijakan yang diusulkan, bukan aturan final dengan tanggal penegakan yang telah diungkapkan dalam ringkasan yang tersedia. Namun, kebijakan yang diusulkan tetap dapat membentuk ekspektasi penegakan, kuesioner vendor, dan naskah yang digunakan tim penjualan saat pembeli perusahaan bertanya apakah sebuah alat AI adil, netral, atau akurat. FTC tidak membutuhkan kata sifat baru dari LinkedIn untuk peduli apakah konsumen telah disesatkan.

Kait lama tetaplah penipuan dan ketidakadilan

Analisis Holland & Knight mengatakan FTC memiliki yurisdiksi atas praktik bisnis yang menipu dan tidak adil, bersama dengan undang-undang dan regulasi yang mengatur perlindungan konsumen dan persaingan. Firma tersebut juga menggambarkan posisi lembaga itu sebagai penerapan prinsip-prinsip penipuan dan ketidakadilan yang sudah dikenal pada produk AI modern. Inilah bagian yang sering kurang dibaca oleh banyak tim AI: kebaruan model tidak membuat klaim pemasaran menjadi baru bagi regulator.

Dalam praktiknya, ini berarti pengaman bias harus diperlakukan seperti klaim lain tentang kinerja produk. Jika perusahaan mengatakan sistemnya mengurangi bias, meningkatkan akurasi, memberikan jawaban yang seimbang, atau menghindari output berbahaya, seseorang harus bisa menunjukkan apa yang diuji, terhadap tolok ukur apa, dan dengan batasan apa. Jika jawabannya adalah slide yang mengatakan perusahaan sangat peduli, selamat, Anda telah menemukan artefak kepatuhan tanpa kalori. Mesin perlindungan konsumen FTC yang lebih tua sangat mampu melahapnya untuk sarapan.

Mengapa kontrol bias membutuhkan bukti

K&L Gates menelusuri sinyal FTC sebelumnya ke sebuah unggahan blog pada Senin, 19 April 2021, yang memperingatkan perusahaan agar memastikan AI mereka tidak mencerminkan bias rasial atau gender. Firma tersebut mengatakan unggahan itu menunjukkan bahwa kegagalan melakukan hal tersebut dapat mengakibatkan penipuan, diskriminasi, dan tindakan penegakan hukum oleh FTC. Peringatan sebelumnya itu mendorong perusahaan menuju mitigasi bias. Peringatan yang lebih baru yang dilaporkan Reuters menambahkan separuh masalah berikutnya: mitigasi itu sendiri dapat menciptakan risiko jika tidak transparan, diklaim berlebihan, atau diuji dengan buruk.

Pelajaran kepatuhannya bukanlah berhenti membangun pengaman. Pelajarannya adalah berhenti memperlakukan pengaman sebagai kata-kata ajaib. Kontrol pengurangan bias harus memiliki berkas internal singkat: apa yang diubahnya, siapa yang menyetujui tujuan desainnya, bagaimana pengujiannya dilakukan, mode kegagalan apa yang masih tersisa, dan apa yang diberitahukan kepada pengguna. Kontrak vendor harus mewajibkan dokumentasi yang sebanding, karena pelanggan yang menerapkan chatbot tidak akan senang menemukan di produksi bahwa fitur fairness pemasok ternyata lebih berupa aspirasi daripada fungsi yang telah diuji.

Apa yang berubah bagi pembangun sekarang

Reuters menggambarkan tindakan FTC sebagai bagian dari kebijakan yang diusulkan tentang bagaimana lembaga tersebut akan menerapkan kewenangannya pada AI, sementara Forth mengidentifikasi item FTC terkait sebagai komentar publik tentang akurasi AI. Bagi pembangun, respons yang berguna bukanlah panik. Responsnya adalah berbenah dengan tulang punggung hukum: petakan setiap klaim fairness, bias, netralitas, dan akurasi di produk, pusat bantuan, materi penjualan, dan jawaban pengadaan. Lalu cocokkan setiap klaim dengan bukti atau revisi sampai klaim tersebut sesuai dengan buktinya.

Garis antara kontrol rekayasa dan representasi konsumen menjadi tipis begitu pengguna melihatnya atau pembeli mengandalkannya. Lapisan keamanan tersembunyi tetap membutuhkan pengujian produk jika ia mengubah output dengan cara yang memengaruhi akurasi. Toggle atau label yang terlihat membutuhkan pengungkapan yang dapat dipahami pengguna biasa. Janji penjualan membutuhkan pembuktian sebelum keluar dari gedung, yang biasanya merupakan momen ketika pengacara mulai menerjemahkan “kami menyambut kejelasan dari regulator” menjadi undangan kalender.

Hal berikutnya yang perlu diperhatikan adalah apakah kebijakan FTC yang diusulkan menjadi final dan bagaimana lembaga itu menggambarkan akurasi, bias, dan tujuan ideologis dalam pernyataan atau tindakan penegakan berikutnya. Sampai saat itu, tim AI dapat melakukan pekerjaan berguna tanpa menunggu: buat pengaman dapat dijelaskan, uji seperti fitur produk, dan jelaskan dengan kerendahan hati yang dapat didukung oleh bukti. Niat baik memang menyenangkan. Pembuktianlah yang bertahan dalam proses discovery.