Gaming · 22 Jun
A Microsoft Researcher Membangun Jaringan Saraf dari Kambing di Age of Empires 2. Maksudnya Bukan yang Kamu Kira.
Adrian de Wynter melakukan eksperimen absurd yang menjadi argumen paling jelas mengapa para pembangun dan pelajar harus berhenti mengantropomorfisasi AI.
- LLM menghasilkan keluaran yang terdengar manusiawi melalui pencocokan pola statistik, bukan penalaran seperti manusia; membangun sistem AI tanpa memahami perbedaan ini menghasilkan desain yang tidak dapat diandalkan.
- Uji keluaran AI terhadap kebenaran yang dapat diverifikasi, bukan kelancaran atau kepercayaan diri. Respons yang terdengar benar tidak sama dengan respons yang benar.
- Jaringan kambing milik de Wynter secara formal menunjukkan bahwa substrat saja tidak dapat membuktikan sentiens atau kognisi, sebuah kerangka kerja yang seharusnya membentuk cara tim mengaudit dan mempercayai fitur AI.