AI & ML · 15 Jun
Air Canada Kalah di Pengadilan Gara-Gara Chatbot. Modelnya Tidak Bermasalah. Tata Kelolanya yang Bermasalah.
Lima kegagalan AI di dunia nyata menunjukkan bahwa ketika penerapan berjalan tidak semestinya, penyebabnya hampir tidak pernah berasal dari modelnya itu sendiri.
- Kegagalan produksi AI hampir selalu merupakan kegagalan tata kelola: lapisan tinjauan yang hilang, cakupan yang tidak jelas, dan tidak adanya pengawasan manusia dalam proses memungkinkan kesalahan model biasa meningkat menjadi kerugian hukum dan finansial.
- Sebelum menerapkan AI yang berhadapan langsung dengan pelanggan, tentukan secara eksplisit apa yang dapat dikomit oleh sistem, siapa yang meninjau keluaran berisiko tinggi, dan apa yang terjadi ketika model salah.
- Penelitian AI perusahaan semakin berfokus pada pekerjaan pra-penerapan, sehingga risiko pada tahap penerapan seperti halusinasi dan bias kurang diteliti, dan para praktisi tidak dapat menunggu akademisi untuk menyelesaikan masalah ini bagi mereka.