Analisis Watermarking OpenAI: ChatGPT UE, Opt In API

Tenggat kepatuhan jarang datang sebagai pengumuman besar. Lebih sering, ia muncul sebagai pengaturan produk yang aktif untuk satu kelompok, nonaktif untuk kelompok lain, dan dikelilingi dokumentasi yang akan dianggap para pengacara sebagai sesuatu yang jelas. Menurut TechCrunch, OpenAI akan menambahkan watermark tak terlihat pada teks yang dihasilkan oleh ChatGPT dan Codex di Uni Eropa untuk mematuhi EU AI Act. Bagian penting bagi para pembangun produk adalah pemisahannya: pengguna ChatGPT dan Codex yang memenuhi syarat di UE mendapatkan pengaturan default, sementara pengembang API di seluruh dunia mendapatkan pengaturan opt-in untuk model tertentu.

Aturan ini hadir sebagai pengaturan default produk, menurut TechCrunch

TechCrunch melaporkan bahwa aturan transparansi EU AI Act mulai berlaku pada 2 Agustus dan mewajibkan perusahaan AI menandai konten yang dihasilkan AI dengan cara yang dapat dikenali oleh sistem lain. OpenAI mengatakan watermark akan diluncurkan dalam beberapa minggu mendatang kepada pengguna ChatGPT dan Codex yang memenuhi syarat di semua paket, tetapi hanya di UE. Pengembang yang menggunakan API OpenAI di mana pun di dunia dapat mengaktifkannya untuk model tertentu mulai hari ini, dan pengaturan ini nonaktif secara default. OpenAI juga mengatakan bahwa mereka tidak menjadikan watermark teks sebagai default global saat peluncuran, dan kalimat inilah yang sebaiknya digarisbawahi oleh tim implementasi Anda, bukan dilewati dengan anggukan sopan.

@title Peluncuran watermark OpenAI
@source OpenAI will start watermarking ChatGPT's text in the EU
@source Our approach to EU text provenance rules

  August 2 ··· EU rules apply
  October 5 ·· OpenAI post
  October 5 ·· API option starts
  Coming weeks · EU rollout

@caption Perubahan kepatuhan ini pertama-tama hadir sebagai pengaturan geografis dan default.

Itulah bentuk praktis dari kewajiban ini. Untuk pengguna ChatGPT dan Codex biasa di UE, penandaan terjadi di dalam produk setelah peluncurannya sampai kepada mereka. Untuk pelanggan API, tidak ada peri kepatuhan ajaib yang menyalakan fitur ini di seluruh dunia. Jika sebuah aplikasi melayani pengguna UE dan bergantung pada API OpenAI, pertanyaan implementasi pertama bukanlah apakah watermarking ada, melainkan apakah pengembang telah mengaktifkannya untuk model dan kasus penggunaan yang relevan.

Tanda itu ada pada pilihan kata, bukan di halaman, menurut OpenAI

OpenAI menggambarkan upaya ini di situsnya sendiri sebagai pendekatan terhadap aturan asal-usul teks UE, dengan tujuan mendorong transparansi dalam batas teknis saat ini. TechCrunch melaporkan bahwa watermark tersebut bukan simbol yang terlihat. Sebaliknya, ia bekerja dengan membentuk pilihan kata model secara halus, meninggalkan pola yang tidak dapat dilihat pembaca tetapi dapat dikenali oleh detektor. Karena pola tersebut berada di dalam kata-kata itu sendiri, TechCrunch mengatakan pola itu ikut terbawa saat teks disalin dan ditempel.

OpenAI juga menerbitkan laporan teknis untuk metode tersebut, yang disebut textGrain, menurut TechCrunch. Laporan itu ditulis bersama para peneliti dari University of Pennsylvania dan Yale, dan menjelaskan penggunaan kunci rahasia untuk mengurutkan prediksi kata berikutnya saat menyelesaikan sebuah kalimat. Melalui banyak dorongan kecil seperti itu, detektor dapat mengidentifikasi konten yang dihasilkan AI hanya dengan menggunakan teks dan kunci tersebut. Ini bukan label pelacakan pengguna: TechCrunch melaporkan bahwa OpenAI mengatakan watermark tersebut tidak mengidentifikasi pengguna, dan bahwa mereka tidak melihat perubahan berarti dalam kinerja model ketika fitur ini diaktifkan.

Yang diwajibkan hukum lebih sempit daripada wacananya, menurut 9to5Mac

9to5Mac membingkai langkah ini sebagai penjelasan OpenAI tentang bagaimana mereka akan mematuhi persyaratan EU AI Act bagi penyedia sistem AI generatif untuk menandai teks yang dihasilkan AI dengan cara yang membuatnya dapat diidentifikasi. Itu tidak berarti setiap kalimat yang dihasilkan di mana pun oleh setiap produk OpenAI kini diberi merek yang terlihat. Artinya, penyedia menerapkan mekanisme penandaan yang dapat dikenali mesin untuk area teregulasi yang dipilihnya untuk ditangani terlebih dahulu. LinkedIn akan mengubah ini menjadi dua belas nasihat moral kepatuhan sebelum makan siang; fakta operasionalnya lebih kecil dan lebih berguna.

Perbedaan ini penting karena penyedia model yang sama kini menawarkan perilaku berbeda berdasarkan permukaan produk dan geografi. ChatGPT dan Codex di UE diperlakukan berbeda dari penggunaan API di tempat lain. Bahkan dalam penggunaan API, pengaturannya tersedia untuk model tertentu dan nonaktif secara default, menurut TechCrunch. Jika Anda sedang menyusun ketentuan pelanggan, kuesioner pengadaan, atau kebijakan sekolah, jangan menulis kalimat malas bahwa teks OpenAI diberi watermark. Tulis produk yang mana, geografi yang mana, model yang mana, dan apakah pengaturannya diaktifkan.

Daftar periksa pembangun sebagian besar tentang pengaturan default, menurut TechCrunch dan OpenAI

Untuk tim produk, latihan kepatuhan langsung adalah inventarisasi, bukan filsafat. Petakan di mana aplikasi Anda memanggil ChatGPT, Codex, atau API OpenAI, lalu pisahkan permukaan pengguna akhir UE dari yang non-UE. Jika Anda menggunakan API, laporan TechCrunch berarti Anda tidak boleh menganggap watermarking aktif kecuali konfigurasi Anda menyatakannya demikian. Jika Anda menjual kembali atau menyematkan teks yang dihasilkan, kontrak Anda harus menyebutkan siapa yang bertanggung jawab mengaktifkan fitur asal-usul yang tersedia dan bagaimana pengaturan itu diverifikasi.

Untuk pendidik dan tim kebijakan tempat kerja, catatannya sama jelas. Detektor watermark dapat mendukung pemeriksaan asal-usul, tetapi deskripsi TechCrunch tidak menjadikannya oracle universal untuk kepengarangan. OpenAI mengatakan watermark tidak mengidentifikasi pengguna, dan mekanismenya bergantung pada pendeteksian pola dalam teks. Perlakukan itu sebagai satu sinyal tentang apakah teks kemungkinan berasal dari sistem generasi yang ditandai, bukan sebagai pengganti desain asesmen, aturan pengungkapan, atau bukti dasar.

Hal berikutnya yang perlu diperhatikan adalah apakah penyedia lain mengikuti pola tersegmentasi yang sama atau memilih default yang lebih luas. EU AI Act mulai terlihat bukan sebagai satu sakelar global, melainkan sebagai segmentasi permukaan produk: alat konsumen UE dengan satu cara, pelanggan API dengan cara lain, dan seluruh dunia menunggu keputusan bisnis. Para pembangun sebaiknya mendokumentasikan sambungan-sambungan itu sekarang. Regulator cenderung menyukai sambungan hampir sama besarnya dengan saya menyukai pemberitahuan penegakan.