NewsPals

Uap Next FestHanya 1 dari 500+ Demo Top Steam Next Fest yang Mengungkapkan Penggunaan AI. Angka Ini Patut Direnungkan oleh Setiap Pengembang.Satu titik data dari PC Gamer mengungkap jurang pemisah antara perdebatan AI di industri dan perilaku transparansi pengembang yang sesungguhnya dalam skala besar.

RemyJun 20, 20265 min readBaca artikel

Kontrol ekspor kecerdasan buatanKetika Model Paling Powerful-mu Menghilang dalam Semalam: Pelajaran dari Penarikan Mythos Anthropic untuk Para Builder

RiverJun 20, 20265 min readBaca artikel

Evaluasi keamanan kecerdasan buatan ## Apa Itu Evaluasi Keamanan AI? Evaluasi keamanan kecerdasan buatan (AI) adalah proses pengujian dan penilaian sistem AI untuk memastikan sistem tersebut berperilaku aman, dapat dipercaya, dan sesuai dengan nilai-nilai manusia. Bayangkan seperti ujian mengemudi untuk mobil pintar — sebelum diizinkan melaju di jalan raya, kita perlu memastikan mobil tersebut dapat menangani berbagai situasi dengan aman. ## Mengapa Evaluasi Keamanan AI Penting? Sistem AI semakin banyak digunakan dalam kehidupan sehari-hari, mulai dari rekomendasi video hingga diagnosis medis. Jika sistem ini berperilaku tidak terduga atau berbahaya, dampaknya bisa sangat serius. Beberapa alasan utama mengapa evaluasi keamanan AI sangat penting: - **Mencegah kerugian**: Sistem AI yang tidak diuji dengan baik dapat membuat keputusan yang merugikan manusia - **Membangun kepercayaan**: Evaluasi yang ketat membantu masyarakat mempercayai teknologi AI - **Mematuhi regulasi**: Banyak negara mulai mewajibkan pengujian keamanan sebelum sistem AI dapat digunakan secara luas - **Menemukan kelemahan tersembunyi**: Pengujian membantu mengungkap masalah yang tidak terlihat selama pengembangan ## Jenis-Jenis Evaluasi Keamanan AI ### Evaluasi Kemampuan Evaluasi ini mengukur apa yang *dapat* dilakukan sistem AI. Ini termasuk menguji seberapa baik AI menyelesaikan tugas tertentu, seperti menjawab pertanyaan, menulis teks, atau mengenali gambar. ### Evaluasi Keselarasan Evaluasi keselarasan memeriksa apakah AI bertindak sesuai dengan nilai dan tujuan manusia. Pertanyaan utamanya adalah: apakah AI melakukan apa yang kita *inginkan*, bukan hanya apa yang kita *minta*? ### Evaluasi Ketahanan Pengujian ini memeriksa seberapa baik sistem AI menghadapi situasi yang tidak biasa atau upaya untuk "membingungkan" sistem tersebut. Ini seperti menguji apakah kunci rumah tetap aman meskipun seseorang mencoba berbagai cara untuk membukanya. ### Evaluasi Interpretabilitas Evaluasi ini berusaha memahami *mengapa* AI membuat keputusan tertentu. Sistem AI yang transparan lebih mudah dipercaya dan diperbaiki jika terjadi kesalahan. ## Metode Evaluasi yang Umum Digunakan ### Pengujian Red Team Red teaming adalah ketika sekelompok ahli berperan sebagai "penyerang" dan mencoba menemukan kelemahan dalam sistem AI. Mereka berusaha membuat AI berperilaku buruk atau menghasilkan konten berbahaya. ```figure: ╔══════════════════════════════════════════════════════════════╗ ║ SIKLUS RED TEAMING AI ║ ╠══════════════════════════════════════════════════════════════╣ ║ ║ ║ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ ║ ║ │ Rencanakan │────▶│ Serang │────▶│ Temukan │ ║ ║ │ Serangan │ │ Sistem │ │ Kelemahan │ ║ ║ └─────────────┘ └─────────────┘ └─────────────┘ ║ ║ ▲ │ ║ ║ │ ▼ ║ ║ ┌─────────────┐ ┌─────────────┐ ║ ║ │ Perbarui │◀──────────────────────│ Laporkan │ ║ ║ │ Sistem │ │ Temuan │ ║ ║ └─────────────┘ └─────────────┘ ║ ║ ║ @title Siklus Red Teaming AI @caption Tim red team secara berulang mencoba menemukan dan melaporkan kelemahan dalam sistem AI, yang kemudian digunakan untuk memperbaiki sistem tersebut. @source EducationPals ╚══════════════════════════════════════════════════════════════╝ ``` ### Tolok Ukur (Benchmark) Tolok ukur adalah kumpulan soal atau tugas standar yang digunakan untuk membandingkan kinerja berbagai sistem AI. Ini seperti ujian standar nasional — semua siswa mengerjakan soal yang sama sehingga hasilnya dapat dibandingkan secara adil. Contoh tolok ukur yang terkenal meliputi: 1. **MMLU** — menguji pengetahuan umum di berbagai bidang akademis 2. **HumanEval** — menguji kemampuan menulis kode program 3. **TruthfulQA** — menguji seberapa jujur AI dalam menjawab pertanyaan 4. **HellaSwag** — menguji pemahaman bahasa alami ### Pengujian Adversarial Pengujian adversarial melibatkan pemberian masukan yang dirancang khusus untuk "menipu" sistem AI. Misalnya, mengubah gambar dengan cara yang hampir tidak terlihat oleh manusia tetapi membuat AI mengidentifikasi gambar tersebut secara keliru. ```figure: ╔══════════════════════════════════════════════════════════════╗ ║ CONTOH PENGUJIAN ADVERSARIAL ║ ╠══════════════════════════════════════════════════════════════╣ ║ ║ ║ Gambar Asli Gangguan Gambar Adversarial ║ ║ ║ ║ ┌─────────┐ ┌─────────┐ ┌─────────┐ ║ ║ │ 🐼 │ + │▓░▒▓░▒▓░ │ = │ 🐼 │ ║ ║ │ (Panda) │ │░▒▓░▒▓░▒ │ │(Gibbon?)│ ║ ║ └─────────┘ └─────────┘ └─────────┘ ║ ║ ║ ║ AI: "Panda" Tak terlihat AI: "Gibbon" ║ ║ oleh manusia ║ ║ ║ @title Contoh Pengujian Adversarial pada Pengenalan Gambar @caption Gangguan kecil yang hampir tidak terlihat oleh manusia dapat menyebabkan sistem AI mengidentifikasi gambar secara keliru — menunjukkan pentingnya pengujian adversarial. @source EducationPals ╚══════════════════════════════════════════════════════════════╝ ``` ## Tantangan dalam Evaluasi Keamanan AI Mengevaluasi keamanan AI bukanlah hal yang mudah. Ada beberapa tantangan besar yang dihadapi para peneliti: ### Masalah Distribusi Sistem AI mungkin bekerja dengan baik pada data pengujian tetapi gagal dalam situasi dunia nyata yang tidak pernah dilihat sebelumnya. Ini disebut "pergeseran distribusi" (*distribution shift*). ### Perilaku yang Muncul Tiba-tiba Sistem AI yang lebih besar kadang-kadang menunjukkan kemampuan atau perilaku baru yang tidak terduga — kemampuan ini disebut "kemampuan yang muncul" (*emergent capabilities*). Ini membuat evaluasi menjadi sulit karena kita tidak selalu tahu apa yang perlu diuji. ### Masalah Goodhart's Law Ketika tolok ukur menjadi target, tolok ukur tersebut berhenti menjadi ukuran yang baik. Artinya, sistem AI dapat "belajar" untuk mendapatkan skor tinggi pada pengujian tanpa benar-benar menjadi lebih aman atau lebih baik. ### Keterbatasan Sumber Daya Evaluasi yang komprehensif membutuhkan banyak waktu, uang, dan keahlian. Tidak semua organisasi memiliki sumber daya yang diperlukan untuk melakukan evaluasi yang mendalam. ## Siapa yang Melakukan Evaluasi Keamanan AI? Evaluasi keamanan AI dilakukan oleh berbagai pihak: - **Perusahaan AI**: Seperti OpenAI, Google DeepMind, dan Anthropic yang menguji produk mereka sendiri sebelum dirilis - **Lembaga pemerintah**: Seperti NIST (National Institute of Standards and Technology) di Amerika Serikat yang mengembangkan standar evaluasi - **Peneliti akademis**: Yang mengembangkan metode evaluasi baru dan menguji sistem AI secara independen - **Organisasi nirlaba**: Seperti lembaga yang berfokus pada keselamatan AI yang melakukan audit independen - **Penguji pihak ketiga**: Perusahaan khusus yang disewa untuk menguji sistem AI secara objektif ## Evaluasi AI dalam Konteks Global Berbagai negara dan organisasi internasional mulai mengembangkan standar dan kerangka kerja untuk evaluasi keamanan AI: ### Uni Eropa Undang-Undang AI Uni Eropa (*EU AI Act*) mewajibkan evaluasi risiko untuk sistem AI berisiko tinggi sebelum dapat dipasarkan. Sistem AI yang digunakan dalam infrastruktur kritis, pendidikan, atau penegakan hukum harus melewati evaluasi ketat. ### Amerika Serikat Pemerintah AS telah mengeluarkan perintah eksekutif yang mewajibkan pengembang model AI terbesar untuk berbagi hasil uji keamanan dengan pemerintah sebelum merilis produk mereka. ### Inisiatif Internasional Forum-forum seperti G7 dan PBB mulai membahas standar evaluasi AI global untuk memastikan bahwa AI dikembangkan secara aman di seluruh dunia. ## Masa Depan Evaluasi Keamanan AI Seiring dengan perkembangan AI yang semakin pesat, metode evaluasi juga perlu terus berkembang. Beberapa arah penting untuk masa depan meliputi: 1. **Evaluasi otomatis**: Menggunakan AI untuk mengevaluasi AI lainnya secara lebih efisien 2. **Evaluasi berkelanjutan**: Memantau sistem AI setelah diluncurkan, bukan hanya sebelum peluncuran 3. **Standar global**: Mengembangkan standar evaluasi yang diakui secara internasional 4. **Partisipasi publik**: Melibatkan masyarakat luas dalam proses evaluasi untuk memastikan nilai-nilai yang beragam terwakili ## Ringkasan Evaluasi keamanan AI adalah komponen penting dalam pengembangan teknologi AI yang bertanggung jawab. Dengan menguji sistem AI secara menyeluruh — menggunakan metode seperti red teaming, tolok ukur, dan pengujian adversarial — kita dapat memastikan bahwa AI bermanfaat, dapat dipercaya, dan aman bagi semua orang. Seiring AI menjadi semakin kuat dan tersebar luas, investasi dalam evaluasi keamanan yang ketat bukan hanya pilihan yang bijaksana — ini adalah keharusan untuk masa depan yang lebih baik.Tes Sintetis Membohongi Anda: Metode Baru OpenAI Menggunakan Percakapan Nyata untuk Mendeteksi Perilaku Model yang Bermasalah Sebelum Diluncurkan

NyxJun 20, 20265 min readBaca artikel

Epic Games Store ## Apa itu Epic Games Store? Epic Games Store adalah platform distribusi game digital yang dikembangkan oleh Epic Games. Platform ini memungkinkan pemain untuk membeli, mengunduh, dan memainkan game video di komputer mereka. Diluncurkan pada tahun 2018, Epic Games Store telah menjadi salah satu pesaing utama platform game PC lainnya. ## Bagaimana Epic Games Store Bekerja? Untuk menggunakan Epic Games Store, kamu perlu: 1. Membuat akun Epic Games secara gratis 2. Mengunduh dan menginstal aplikasi Epic Games Launcher di komputer kamu 3. Menelusuri katalog game yang tersedia 4. Membeli game yang kamu inginkan atau mengklaim game gratis 5. Mengunduh dan memainkan game tersebut ## Fitur Utama - **Game Gratis Mingguan:** Epic Games Store terkenal karena secara rutin menawarkan game gratis kepada penggunanya setiap minggu - **Toko Game:** Menjual berbagai macam game dari pengembang besar maupun indie - **Perpustakaan Game:** Menyimpan semua game yang sudah kamu miliki di satu tempat - **Dukungan Pengembang:** Epic memberikan 88% pendapatan kepada pengembang game, lebih tinggi dibandingkan banyak platform lain ## Epic Games Store vs Platform Lain Epic Games Store bersaing terutama dengan Steam, yang merupakan platform distribusi game PC paling populer. Beberapa perbedaan utamanya: - Epic menawarkan bagian pendapatan yang lebih besar kepada pengembang - Steam memiliki fitur komunitas yang lebih lengkap seperti ulasan, forum, dan workshop - Epic secara aktif menawarkan game gratis setiap minggu - Steam memiliki katalog game yang jauh lebih besar ## Game Eksklusif Salah satu strategi Epic Games Store adalah menawarkan game eksklusif — game yang hanya tersedia di platform mereka untuk jangka waktu tertentu. Hal ini berarti beberapa game populer hanya bisa dibeli di Epic Games Store, setidaknya untuk sementara waktu, sebelum kemungkinan tersedia di platform lain. ## Fortnite dan Epic Games Epic Games adalah perusahaan yang juga membuat Fortnite, salah satu game paling populer di dunia. Kesuksesan Fortnite membantu Epic Games mendanai pengembangan dan pertumbuhan Epic Games Store, memungkinkan mereka untuk bersaing dengan platform yang sudah lebih lama ada. ## Apakah Epic Games Store Aman Digunakan? Ya, Epic Games Store adalah platform yang sah dan aman digunakan. Platform ini dioperasikan oleh Epic Games, sebuah perusahaan game ternama yang sudah berdiri sejak tahun 1991. Seperti platform digital lainnya, pastikan kamu selalu mengunduh aplikasi langsung dari situs resmi Epic Games dan menjaga keamanan akun kamu dengan menggunakan kata sandi yang kuat.Epic Games Launcher V2 5x Lebih Cepat, Dan Itulah Intinya

RemyJun 20, 20265 min readBaca artikel

Pengembangan tenaga kerja AI di IndiaGelombang Talenta AI Berikutnya dari India Datang dari Lucknow, Jaipur, dan Patna, Bukan Bengaluru

MiloJun 20, 20264 min readBaca artikel

NewsPals

Topic desks and editions

Concept words and story hubs

Daily intelligence newsletter

Trust and contact