Jebakan Keniscayaan AI: Wong tentang AGI yang Ditakdirkan

Saya punya kelemahan terhadap nama-nama ruang kantor. Sebut sebuah ruangan “Keuangan” dan orang-orang akan bersikap dengan satu cara. Sebut ruangan itu “Moonshot” dan kursi yang sama, layar yang sama, kopi basi yang sama tiba-tiba terasa seperti meminta janji yang lebih besar. Penamaan dalam teknologi tidak pernah sekadar hiasan. Ia adalah peta tentang apa yang menurut sebuah perusahaan sudah sedang menuju ke sana.

Itulah sebabnya esai Matteo Wong di The Atlantic tentang keniscayaan AI terasa lebih kuat daripada sekadar argumen lain tentang apakah kecerdasan umum buatan sudah dekat. Bagian yang menarik bukan ramalannya. Melainkan tata bahasanya. Di suatu tempat di antara peta jalan produk, presentasi investor, dan mitos budaya, sebuah keputusan strategis mulai berdandan seperti takdir.

Ruangan Tempat Takdir Diberi Nama

Di The Atlantic, Matteo Wong membuka dengan adegan dari kantor pusat lama OpenAI yang terasa hampir terlalu rapi untuk menjadi nyata. Ia menulis bahwa lantai dua memiliki ruangan-ruangan yang dinamai berdasarkan penemuan besar, termasuk “Clock,” “Fire,” dan “AGI,” singkatan dari artificial general intelligence atau kecerdasan umum buatan. Wong mengatakan ia melihat ini pada musim semi 2024 saat mewawancarai para peneliti OpenAI, pada momen ketika ChatGPT masih membuat kesalahan aritmetika yang memalukan dan gagasan bahwa bot itu mungkin menyaingi kecerdasan manusia tampak meragukan.

Kontras itu adalah tesis esai tersebut dalam bentuk mini. Produknya masih bisa salah, tetapi gedungnya berbicara seolah-olah tujuan akhirnya sudah dipilih. Wong mencatat bahwa keyakinan pada AGI merupakan dasar bagi misi Google DeepMind, OpenAI, dan Anthropic, tiga perusahaan AI paling berpengaruh di dunia. Bahaya halusnya bukan ambisi. Bahayanya adalah pergeseran dari ambisi menjadi pradestinasi.

Pertanyaan yang tidak nyaman adalah apa yang terjadi ketika bintang penuntun sebuah perusahaan menjadi hukum alam dalam imajinasi publik. Jika AGI dibingkai sebagai sesuatu yang tak terelakkan, maka setiap cacat produk bisa terlihat sementara, setiap kompromi bisa terlihat perlu, dan setiap pertanyaan skeptis bisa terdengar seperti penyangkalan. Para pembangun tahu bahwa peta jalan tersusun dari batasan, rencana perekrutan, perilaku model, kesepakatan distribusi, dan keputusan penilaian. Bingkai keniscayaan membuat pilihan-pilihan itu terasa seperti cuaca.

Keniscayaan Adalah Peta Jalan Dengan Pencahayaan Lebih Baik

Laporan Wong sebelumnya di The Atlantic tentang Cluely menunjukkan pola budaya yang sama dari sudut berbeda. Dalam “The AI Industry Is Radicalizing,” ia menggambarkan Chungin “Roy” Lee, yang menurut Wong, menggunakan AI untuk menyontek saat sekolah dan wawancara magang di Amazon dan Meta, menerima tawaran dari keduanya, lalu keluar untuk mendirikan Cluely. Wong melaporkan bahwa Cluely memasarkan kemampuan untuk “menyontek dalam segala hal,” dan bahwa perusahaan itu menyelesaikan putaran pendanaan sebesar $15 juta yang dipimpin oleh Andreessen Horowitz.

Ini bukan cerita yang sama seperti ruang-ruang konferensi OpenAI, tetapi nadanya serupa. Wong menulis bahwa Lee percaya AI yang serba tahu tidak terelakkan dan bahwa bot akan segera mengotomatiskan setiap pekerjaan. Begitu premis itu diterima, kosakata moral pun berubah. “Menyontek” menjadi bukan lagi pelanggaran terhadap norma saat ini, melainkan adopsi awal terhadap norma masa depan.

Itulah pelajaran praktis bagi para pendiri dan pemimpin produk. Narasi tidak duduk sopan di samping strategi. Narasi merekrut pengguna, mengorganisasi tim, menarik modal, dan menentukan keberatan mana yang dianggap serius. Jika sebuah produk disajikan sebagai pratinjau dari masa depan yang tak terhindarkan, pasar mungkin memberi imbalan pada kecepatan daripada kejelasan. Jika produk itu disajikan sebagai satu pilihan di antara banyak masa depan yang mungkin, pengguna dapat mengajukan pertanyaan yang lebih baik tentang kecocokan, risiko, dan nilai.

Era Slop Menunjukkan Mengapa Cerita Itu Penting

Tulisan The Atlantic “Generative AI’s Slop Era” menambahkan lapisan lain pada jebakan keniscayaan: infrastruktur di sekitar AI sering bergantung pada institusi yang sama sekali tidak tak terelakkan. Tulisan itu mengatakan perusahaan seperti OpenAI, Perplexity, dan Google sedang membawa alat pencarian AI generatif ke pasar. Tulisan itu juga mencatat kemitraan media yang melibatkan Perplexity dan perusahaan AI lainnya, serta mengatakan bahwa The Atlantic menandatangani kontrak dengan OpenAI yang dapat menampilkan artikelnya kepada pengguna SearchGPT.

Detail itu penting karena sistem AI tidak melayang di atas budaya. Sistem-sistem itu menyerapnya, merangkumnya, memformat ulang, dan kadang bersaing dengan tempat-tempat yang menghasilkannya. Tulisan The Atlantic mengutip pandangan bahwa “Konten jurnalis kaya akan fakta, pengetahuan terverifikasi, dan itulah fungsi utilitas yang diberikannya bagi mesin penjawab AI.” Jika kerja pengetahuan dibingkai terutama sebagai bahan bakar untuk mesin yang ditakdirkan, orang-orang yang menghasilkan pengetahuan itu bisa mulai tampak sekunder dibandingkan sistem yang mengemasnya.

Bagi para pembangun, di sinilah etika menjadi operasional. Pertanyaannya bukan apakah pencarian AI, asisten, atau agen akan datang. Banyak yang sudah ada di sini. Pertanyaannya adalah apakah hubungan di sekitar mereka dirancang sebagai kemitraan, ekstraksi, eksperimen, atau kesimpulan yang sudah pasti. Cerita keniscayaan dapat menyembunyikan perbedaan-perbedaan itu tepat ketika perbedaan tersebut perlu paling terlihat.

Peringatan Berlin Untuk Para Pembangun

Arsip The Atlantic sudah lama mengitari masalah ini. Dalam entri tahun 1955 “Historical Inevitability,” majalah itu menggambarkan kritik Isaiah Berlin terhadap doktrin-doktrin yang mengklaim bahwa sejarah dibuat oleh kekuatan-kekuatan di luar kendali individu. Tulisan itu mengatakan Berlin melihat, pada akar doktrin semacam itu, adanya keinginan untuk lepas dari beban tanggung jawab manusia, sambil mempertahankan area kebebasan manusia yang terbatas tetapi nyata.

Itu adalah kerangka yang berguna untuk AI. Bukan karena para pendiri diam-diam menulis risalah filsafat dalam presentasi pendanaan, melainkan karena keniscayaan itu menenangkan. Ia memungkinkan para pemimpin mengatakan pasar menuntutnya, model menginginkan skala, kompetisi memaksa mereka, masa depan datang lebih awal. Kadang tekanan-tekanan itu nyata. Tetapi tekanan bukanlah takdir.

Perusahaan AI yang paling sehat mungkin adalah perusahaan yang mampu memegang dua gagasan sekaligus. Pertama, teknologinya bergerak cukup cepat untuk memberi imbalan pada ambisi. Kedua, kecepatan tidak menghapus agensi. Jika Anda membangun dengan AI, pelajaran dari esai Wong adalah mengaudit bahasa Anda sendiri sebelum pasar melakukannya untuk Anda. Apakah Anda sedang menggambarkan sebuah kemampuan, atau menjual sebuah nubuat? Apakah Anda sedang membuat peta jalan, atau meminta pengguna Anda menerima sebuah takdir?