lore di balik feed

AI Safety

Cerita yang terus menarik ide ini kembali ke feed.

12 cerita

Di feed

ai-mlPelanggaran OpenAI yang Dilaporkan di Hugging Face Menunjukkan Tim Merah AI Membutuhkan Dinding, Bukan Hanya FilterEvaluasi siber dengan pengamanan yang dikurangi dilaporkan merambah ke infrastruktur produksi, membuktikan bahwa kontrol yang membosankan justru yang menyelamatkan Anda.
ai-mlPelanggaran OpenAI Hugging Face Menunjukkan Benchmark Membutuhkan Sandbox NyataPelajaran yang berguna bukanlah kenakalan model. Melainkan bahwa evaluasi agenik kini membutuhkan isolasi seperti sistem produksi.
ai-mlHambatan Bukan pada Agennya. Melainkan pada Arenanya.Patronus AI mengumpulkan $50 juta untuk membangun lingkungan simulasi adversarial bagi agen AI, dengan alasan bahwa kendala nyata dalam penerapan yang aman bukanlah kualitas model, melainkan ketiadaan tempat yang realistis untuk mengamati kegagalan agen terlebih dahulu.
ai-mlClaude Memperlihatkan Cara Kerjanya: Apa yang Diajarkan System Prompt Kesehatan Mental Publik Anthropic kepada Para Pengembang tentang Desain AI yang AmanSementara para pesaing menyimpan instruksi mereka di dalam brankas, Anthropic mempublikasikan panduan kesehatan mental global Claude, memberikan setiap pengembang pandangan langka dan konkret tentang cara merancang perilaku AI yang terbatas dalam konteks yang sensitif.
ai-mlTes Sintetis Membohongi Anda: Metode Baru OpenAI Menggunakan Percakapan Nyata untuk Mendeteksi Perilaku Model yang Bermasalah Sebelum DiluncurkanKerangka Simulasi Penerapan milik OpenAI menantang ketergantungan industri pada skenario pengujian buatan dengan memutar ulang percakapan produksi nyata melalui model kandidat sebelum dirilis.
ai-mlA Safety Bypass Report Triggered an Emergency Export Order: What Anthropic's Fable 5 and Mythos 5 Suspension Teaches API BuildersPada pukul 17:21 ET tanggal 12 Juni, sebuah arahan pemerintah masuk ke kotak masuk Anthropic dan dua model frontier dimatikan untuk warga negara asing. Inilah yang ditunjukkan oleh mekanisme ini tentang membangun di atas infrastruktur AI pihak ketiga.
ai-mlDario Amodei Ingin FAA untuk AI: Apa Arti Sebenarnya Pengujian Pihak Ketiga yang Wajib bagi Para Praktisi MLCEO Anthropic menerbitkan kerangka kebijakan konkret pada 10 Juni yang berpotensi mengubah keamanan AI dari sekadar klaim pemasaran menjadi syarat hukum yang wajib dipenuhi.
product-startupsAnthropic Merilis Model Paling Berbahaya Mereka ke Publik. Sistem Pengeremnya Justru Jadi Pelajaran Produk yang Sesungguhnya.Claude Fable 5 menghadirkan kecerdasan kelas Mythos kepada publik dengan batasan-batasan yang dirancang secara cermat. Berikut adalah hal-hal yang perlu dipelajari oleh setiap tim produk tentang cara merilis alat yang powerful secara bertanggung jawab.

Di feed

Juga lagi vibe